Pi가 실수했을 때, 두 번째 기회를 주세요
When Pi makes a mistake, give it a second chance
핵심 요약
에이전트가 실수하거나 불필요한 출력을 낼 때 스스로 문맥을 되돌리고 요약하게 해주는 Pi용 확장 도구 'pi-mulligan' 소개.
- pi-mulligan 도구 — 에이전트가 스스로 실수를 인지하고 이전 단계로 되돌아갈 수 있게 함
- 문맥 최적화 — 도구 호출 결과를 요약하여 컨텍스트 사용량을 효율적으로 관리함
- 체크포인트 기능 — 사용자와 모델이 특정 지점을 설정해 언제든 해당 시점으로 복구 가능
- 개발 도구 통합 — 에이전트가 직접 문맥 압축을 수행하는 최초의 개발 플랫폼 기능
에이전트가 완벽한 건 아닙니다. 때로는 생각대로 일이 풀리지 않을 때도 있죠. 어떤 때는 아무런 성과도 없는 아이디어에 매몰되기도 하고, 또 어떤 때는 엄청난 양의 쓸모없는 출력을 생성하는 명령을 실행하기도 합니다. 지금까지 우리는 이걸 에이전트 메커니즘의 필수적인 부분으로 받아들여 왔지만, Pi의 확장 시스템은 이제 그럴 필요가 없을 만큼 강력합니다.
pi-mulligan은 에이전트가 실수를 했을 때, 무엇을 배웠는지에 대한 요약 메시지와 함께 마지막 턴이나 도구 호출을 되돌릴 수 있게 해주는 도구들을 제공합니다. 에이전트가 대량의 출력을 생성하는 도구를 호출하면, pi-mulligan은 문맥을 타이트하게 유지하기 위해 마지막 도구 결과나 턴을 요약하라고 제안합니다. 에이전트가 다시 시작할 때, 요약 내용과 함께 되돌리기가 수행되었다는 작은 메시지를 받게 됩니다.
사용자와 모델은 변경 사항이 예상될 때 체크포인트를 설정할 수 있으며, Pi는 대화 중 언제든지 이 체크포인트로 롤백하여 다시 시도할 수 있습니다. 에이전트들은 이 기능을 사용하는 것을 정말 좋아하며, 저도 여러 번 2만 토큰의 문맥이 사라지는 것을 지켜봤기에 광고된 대로 정확히 작동합니다. 에이전트가 작업하면서 문맥 사용량이 줄어드는 것을 보는 것은 매우 만족스럽습니다.
Pi 외에 다른 개발 에이전트 플랫폼은 이런 기능을 제공하지 않으므로, 제가 아는 한 에이전트가 직접 시작하는 문맥 압축은 지금까지 개발 도구에 구현된 적이 없습니다.
pi install npm:pi-mulligan으로 직접 사용해 보시고 의견을 알려주세요!
