r/PiCodingAgent•약 2개월 전•7•18
Pi Agent로 토큰 소모를 줄이면서 브레인스토밍하는 가벼운 방법이 있을까?
Is there a lightweight approach for brainstorming with Pi Agent without consuming too many tokens?
핵심 요약
Pi Agent 사용 시 토큰 소모를 줄이고 효율적으로 브레인스토밍하는 방법을 찾는 질문.
- 컨텍스트 요약 — 대화 기록을 주기적으로 요약해 토큰 사용량을 최적화함.
- 시스템 프롬프트 최적화 — 도구 사용이 필요 없는 대화 세션에 가벼운 프롬프트를 적용함.
- 코드베이스 RAG — 전체 로드 대신 인덱싱을 통해 관련 코드만 검색함.
Pi Agent를 사용해 기존 코드베이스를 이해하고 구현 아이디어, 아키텍처, 설계 결정에 대해 브레인스토밍하고 있습니다. 대부분의 경우 도구 실행은 많이 필요하지 않고, 그저 기술적인 논의가 필요할 뿐입니다.
문제는 대화가 길어질수록 컨텍스트가 상당히 커진다는 점입니다. 실제 문제를 논의하기보다는 대화 기록을 유지하는 데 토큰을 너무 많이 쓰고 있다는 느낌이 듭니다.
몇 가지 최적화 방법을 생각해 봤습니다:
- 자동 컨텍스트 요약: 대화를 주기적으로 요약하여 추가 버퍼를 포함한 압축된(~2K 토큰) 요약본을 만듭니다. 전체 대화 기록을 보내는 대신, 가장 최근의 사용자 질문과 요약된 컨텍스트만 보냅니다.
- 가벼운 시스템 프롬프트: 도구나 계획이 필요 없는 논의 전용 세션에는 훨씬 더 작은 시스템 프롬프트를 사용합니다.
- 코드베이스를 위한 더 똑똑한 인덱싱/RAG: 코드베이스의 큰 부분을 반복적으로 로드하거나 여러 번의 검색/도구 호출을 하는 대신, 인덱싱을 사용하여 각 질문에 가장 관련성이 높은 코드나 문서만 검색되도록 합니다.
더 나은 방법이나 제가 놓치고 있는 부분이 있다면 의견과 제안 부탁드립니다 :)
