r/langchain•3개월 전•9•7
AI 에이전트가 폭주해서 API 예산을 다 날려버린 최악의 경험담을 들려주세요
Tell me your worst "AI Agent went rogue and burned our API budget" horror story
핵심 요약
AI 에이전트의 무한 루프로 API 예산을 탕진한 작성자가 다른 개발자들의 유사한 사고 사례를 묻는 글입니다.
- API 예산 탕진 — 에이전트의 오류 처리 루프로 인해 예산이 순식간에 소진됨
- 런타임 미들웨어 — 무한 루프 방지를 위한 커스텀 미들웨어 개발 중
- 에이전트 사고 공유 — LangGraph나 CrewAI 등에서 발생한 예상치 못한 비용 사례를 모집함
오늘 하루 종일 API 로그를 감사하느라 시간을 다 보냈습니다. 주말 동안 백그라운드 오케스트레이션 에이전트 하나가 오류 처리 루프에 빠져버렸거든요. 아무도 눈치채지 못한 사이에 LLM을 수천 번이나 연속으로 호출했습니다.
우리는 플랫폼 차원의 일일 예산 한도를 설정해 두었지만, 한도가 적용되기 전 이미 몇 주 치 예산을 순식간에 다 써버렸습니다.
다시는 이런 일이 발생하지 않도록 런타임 수준에서 이런 의미론적 루프를 감지할 수 있는 조잡한 커스텀 미들웨어를 작성 중입니다.
제 기분을 좀 나아지게 해주세요. 자율 에이전트나 멀티 에이전트 체인(LangGraph, CrewAI 등)이 백그라운드에서 폭주해서 팀이 겪은 최악의 예상치 못한 청구서 사례는 무엇인가요? 무엇이 루프를 유발했나요?
