에이전트를 컨텍스트 폭발 없이 몇 주 동안 실행하려면 어떻게 해야 할까?
How can agents run for weeks without context explosion?
핵심 요약
장기 실행 에이전트의 컨텍스트 관리 전략과 효율적인 오케스트레이션 방법에 대한 논의.
- 컨텍스트 관리 — 자동 압축 및 상태 머신 활용 전략
- 오케스트레이션 — 서브 에이전트 분리 및 토큰 사용량 최적화
- 상태 유지 — 외부 체크포인트 및 지속 가능한 아티팩트 활용
- 세션 최적화 — 작업 완료 후 세션 초기화 및 메모리 관리
이제 몇 시간 동안 지속되는 세션을 실행할 수 있게 되었습니다. 핵심은 서브 에이전트를 생성하고 조정하는 오케스트레이터를 사용하는 것입니다. 여기까지는 새로운 것이 없죠. 하지만 이렇게 비교적 짧은 시간(몇 시간) 동안만 실행해도, 제 오케스트레이터는 보통 끝날 때쯤이면 컨텍스트의 약 25%~35%를 사용해 버립니다. 이제 궁금한 점은, 며칠이나 몇 주 동안 실행되는 세션에서 어떻게 컨텍스트를 관리할 수 있느냐는 것입니다.


