2026년 AI 에이전트의 가장 큰 문제점들을 Claude로 해결해 보았습니다
I used Claude to fix the biggest issues with AI agents in 2026
핵심 요약
AI 에이전트의 루프 감지, 비용 예측, 메모리 관리를 개선한 시스템을 개발하여 공유함.
- 루프 감지 시스템 — 6가지 유형의 루프를 감지하고 이메일 알림으로 즉시 중단 가능함
- 에이전트 가시성 — 모든 에이전트 동작을 카테고리별로 분류하고 타임스탬프를 기록함
- 공유 메모리 — 에이전트 간 메모리 공유를 통해 수동 업데이트 없이 상호 작용함
- 비용 예측 분석 — 작업별 비용을 예측하고 손실을 방지하는 비용 함수를 포함함
에이전트에 대해 가장 짜증 나는 점은 메모리나 속도가 아니라, 에이전트가 제대로 하고 있다고 생각했는데 나중에 확인해 보면 아주 엉뚱한 짓을 해놓는다는 겁니다. 게다가 이런 엉뚱한 짓 때문에 30달러짜리 청구서가 날아오죠.
많은 사람이 공감하겠지만, 특히 3개 이상의 에이전트를 사용할 때 추적 가능성이 부족하고 방향성이 없다는 점이 문제입니다.
그래서 지난 6개월 동안 이를 해결하기 위해 다음을 구축했습니다.
- 최대 6가지 유형의 루프를 감지하고 이메일 알림을 통해 즉시 쓰기 작업을 일시 중지할 수 있는 시스템.
- 에이전트의 모든 동작을 특정 작업으로 분류하여 정확히 무엇을 하는지 타임스탬프로 확인할 수 있게 함.
- 에이전트들이 공유 메모리 시스템을 통해 서로 대화함. 예를 들어, 내 가격 책정 에이전트가 변경 사항을 만들면 결제 에이전트가 이를 알고 작업을 수동으로 업데이트할 필요 없이 그에 맞춰 행동함.
- 비용 예측 분석. 각 에이전트가 얼마를 쓰는지, 어디서 돈이 새고 어디서 절약할 수 있는지 알고 싶어서, 특정 목표에 따라 작업당 비용을 대략적으로 예측하는 비용 함수가 포함된 루프 감지 시스템을 구축함.
- 고장 난 에이전트를 복구하고 왜, 어떻게 고장 났는지 감지함.
제 에이전트에서 가장 중요한 것은 투명성, 제어, 그리고 시간입니다. 많은 사람이 이걸 '슬롭(slop)'이라고 부르겠지만, 저는 mem0보다 long eval에서 훨씬 뛰어난 자체 메모리 시스템을 처음부터 구축했고, 현재 나와 있는 것 중 가장 진보된 루프 감지 시스템이라고 확신합니다.

