r/langchain•5개월 전•3•10
LangChain 에이전트가 밤새 400번 루프를 돌며 80달러를 날려먹어서 비용 방어 도구를 만들었습니다
My LangChain agent silently looped 400 times and cost me $80 overnight so I built a cost guardrail for it
핵심 요약
LangChain 에이전트의 무한 루프로 인한 비용 손실을 방지하기 위해 직접 개발한 비용 제한 도구 소개.
- 비용 손실 방지 — 에이전트가 예산 한도를 초과하면 자동으로 일시 정지하고 알림을 보냄
- AgentFlare 도구 — LangChain 및 LangGraph와 호환되며 비용 임계값을 설정할 수 있음
- 무한 루프 문제 — 프롬프트 오류로 인해 에이전트가 무한 루프에 빠져 과도한 비용이 발생함
- 커뮤니티 피드백 — API 콘솔의 기본 속도 제한 기능을 사용하는 것이 일반적이라는 의견이 있음
농담 아님. 프로덕션에서 LangGraph 에이전트를 돌리고 있었는데, 일어나서 OpenAI 청구서를 확인해보니 80달러가 날아갔음. 에이전트가 잘못된 프롬프트를 만나 루프에 빠졌고, 그냥 계속 돌아간 거임. 에러도 없고, 알림도 없고. 아무것도 없었음.
예산 한도에 도달하면 에이전트를 일시 정지시킬 수 있는 걸 찾아봤는데, 충분히 간단한 게 없었음.
그래서 직접 만들었음.
from agentflare import AgentFlare
guard = AgentFlare(
api_key="ag_...",
agent_id="my-sales-agent",
cost_threshold=10.0 # pause if cost hits $10
)
@guard.track
def run_agent():
# your langchain/langgraph code here
이게 다임. 에이전트가 LLM 비용으로 10달러를 쓰면 자동으로 일시 정지되고, 슬랙 알림을 보내서 돈이 더 나가는 걸 막아줌.
LangChain, LangGraph, 커스텀 에이전트, 동기/비동기 모두 지원함.
혹시 이런 문제 겪어본 사람 있음? 다들 에이전트 비용 폭주를 어떻게 처리하고 있는지 궁금함. 아니면 그냥 운에 맡기고 있는 거임?
