r/langchain•4개월 전•8•5
LLM 에이전트를 위한 서킷 브레이커 SDK를 만들었습니다 — 무한 루프, 예산 초과, 권한 상승 방지
I built a circuit breaker SDK for LLM agents — catches loops, budget overruns, and privilege escalations
핵심 요약
LLM 에이전트의 무한 루프와 예산 낭비를 방지하는 오픈소스 서킷 브레이커 SDK 'AgentBrake'를 개발했습니다.
- AgentBrake 기능 — 에이전트와 도구 사이에서 루프, 예산 초과, 권한 오남용을 감지함
- 원격 제어 모드 — 감지 시 검증 링크를 전송하여 클릭 한 번으로 에이전트 승인 또는 중단 가능
- 설치 방법 — pip install agentbrake 명령어로 간편하게 설치 가능
- 피드백 요청 — 향후 추가할 감지 기능에 대한 사용자 의견을 수렴 중
LLM 에이전트를 위한 서킷 브레이커 SDK를 만들었습니다 — 무한 루프, 예산 초과, 권한 상승 방지
안녕하세요! 학생인데 사람들이 에이전트를 밤새 돌리다가 무한 루프에 빠져 돈을 날리는 걸 계속 봐와서, AgentBrake라는 작은 오픈소스 SDK를 만들었습니다.
이 SDK는 에이전트와 도구 사이에 위치합니다. 동일한 도구 호출이 3회 이상 발생하거나, 예산이 초과되거나, 승인되지 않은 도구 접근이 감지되면 피해가 발생하기 전에 에이전트를 즉시 중단시킵니다.
원격 모드에서는 에이전트를 일시 중지하고 검증 링크를 보내줍니다. 클릭 한 번으로 에이전트를 승인하거나 종료할 수 있습니다.
pip install agentbrake
GitHub: https://github.com/BOSSMETALIQUE/agentbrake
데모: 
피드백을 주시면 감사하겠습니다. 특히 다음에 어떤 감지 기능을 추가하면 좋을지 의견 부탁드립니다.
