토큰 경제 모범 사례에 대한 인사이트를 얻는 방법

저는 항상 'auto' 모드를 써요. 대규모 코드베이스에서는 RAG 지식 베이스, MCP, 에이전트가 생성한 문서, 작은 파일 단위(SRP, SOC), 계획 후 실행, 그리고 가능한 한 새로운 채팅 시작하기(긴 컨텍스트 윈도우 피하기) 같은 것들이 사용량을 개선해 줍니다.

이건 코드 문서화가 얼마나 잘 되어 있는지, 그리고 auto model이 얼마나 많은 context를 가져올 수 있는지에 달린 문제일 수도 있음. 문서에 빈틈이 있으면 모델이 앱이 뭘 하는지 파악하려고 더 많은 context와 token을 써야 하고, 그게 결국 버그나 문제로 이어지는 거지.

Cursor가 포맷을 계속 바꿔대서 그냥 포기함. 나한테 진짜 도움 된 건 팀원들이랑 매주 짧게 리뷰하면서 누가 token 제일 많이 쓰는지 확인하는 거였음. 거의 항상 새 채팅 안 열고 context window를 무한정 늘려놓는 게 문제더라고. 난 기본적으로 Sonnet 먼저 쓰고 진짜 막혔을 때만 Opus로 올리는데, 이렇게 하니까 개인 사용량 40% 정도 줄었음.

모니터링은 사후 분석보다 행동을 선제적으로 바꾸는 게 훨씬 효과적임. 대시보드보다는 팀 컨벤션이 더 중요함. 어떤 작업에 어떤 모델 티어 쓸지 명확한 가이드라인 정하고, '새 기능이나 context 바뀔 때마다 새 채팅 열기' 같은 강제 규칙을 만드는 거지. API 호출하고 나서 분석하는 것보다 호출 전에 행동을 바꾸는 게 비용 절감에 훨씬 도움 됨.

Cursor에서 token 추적 기능 좀 만들어줬으면 좋겠음. 에이전트가 불필요한 파일을 계속 읽는지, 아니면 에러 나는 툴을 돌려서 token을 낭비하는지 알 방법이 없음. 나도 정확한 추적기 만들어보려고 했는데, Cursor hook이 충분히 노출되어 있지 않아서 정확하거나 안정적인 걸 만들기 힘듦.