자고 일어났더니 API 요금 폭탄 맞았네요. LangGraph 에이전트가 주말 내내 고장 난 툴에서 루프를 돌았는데, 다들 어떻게 방지하시나요?

recursion_limit이 빠른 브레이크가 될 순 있지만, 진짜 해결책은 호출할 때마다 툴 이름과 인자를 해싱해서 최근 호출과 반복되면 끊어버리는 거야. 정적 제한은 결국 똑같은 비용 폭탄을 잠시 미루는 것뿐이니까.

에이전트에 예산을 설정하라고? 턴 수, 툴 호출 횟수, 토큰량 등 선택지는 수백만 가지인데, 하나도 안 썼네.

Pydantic AI 같은 제대로 된 에이전트 프레임워크를 썼다면 툴 호출에 제한을 걸어서 이런 무한 루프를 제어할 수 있었을 거야.

from pydantic_ai import Agent, UsageLimits

agent = Agent('openai:gpt-4o', tools=[...])

# 툴 호출/요청 최대 5회로 제한

usage_limits = UsageLimits(request_limit=5, tool_calls_limit=5)

try: result = agent.run_sync("Your query here", usage_limits=usage_limits) except UsageLimitExceeded: print("Limit reached! Stopping tool usage.")

워커/QA 거절 패턴은 사실 다른 유형의 실패를 잡는 거지, 고장 난 툴이 루프 도는 걸 잡는 건 아님. 토큰/턴 예산도 첫 번째 방어선으로는 부적절해. 정상적인 긴 작업도 턴을 많이 소모할 수 있으니까.

진짜 해결책은 이거야: 툴 호출 시그니처(이름 + 인자)를 해싱해서, 똑같은 게 N번 연속 실패하면 전체 실행을 막는 게 아니라 그 특정 호출에만 회로 차단기를 작동시키는 거지. 긴 작업은 방해하지 않으면서 루프만 3번 정도 시도 후에 죽여버릴 수 있어.

정적 제한은 쓰지. 난 워커 에이전트랑 QA 에이전트를 따로 둬. QA가 워커 결과물을 3번 거절하면 그냥 실패한 단계로 표시하고 사람이 검토하게 만들어. 물론 제공자 측에서 설정하는 사용량 제한 같은 다른 방법도 많고.