사용량 제한이 빨리 소진될 때 대처법

레딧에다 하소연하는 것도 좋지만, 근본적인 문제를 해결하고 싶다면 아래 방법들을 한번 시도해 봐.

1. 모델이 토큰을 정확히 어떻게 소모하는지, 그리고 비용이 얼마나 드는지부터 파악해. 입력 토큰이랑 출력 토큰 비용은 다르고(출력 토큰이 훨씬 비쌈), 캐시된 토큰이랑 아닌 것도 차이가 커(캐시 안 된 게 훨씬 비쌈). 캐시 TTL(보통 5분이었는데 수정: 구독 계정은 기본이 1시간인 듯) 같은 것도 알아두고.

2. 이 내용을 바탕으로 작업 방식을 구조화해. 시간 좀 투자해야겠지만, 장기 프로젝트라면 비용이랑 결과물 퀄리티 면에서 무조건 이득이야.

3. 특정 세션에서 토큰을 너무 많이 잡아먹으면, Opus한테 대화 기록 분석시켜서 어디서 토큰이 줄줄 새는지 찾아내. 분석 끝나면 앞으로 비슷한 세션에서 토큰 소모 줄일 계획 짜달라고 해. 근데 그 계획을 맹신하진 마. Opus한테 조언자 역할을 할 서브 에이전트를 하나 더 만들어서, 그 계획을 비판적으로 검토하고 개선안 내놓으라고 시켜. Opus가 분석은 잘하는데 복잡한 작업 계획 짤 때는 잘못된 전제를 깔거나 판단 미스를 하거나 중요한 걸 놓칠 때가 있거든. 조언자 에이전트는 중간에 멈췄다 다시 시작할 수 있어야 해. 첫 번째 에이전트랑 조언자랑 세부 사항 조율하게 시킬 수도 있으니까. 그리고 네 머리도 좀 써. 계획이 실제로 뭘 하는지 이해하고(모르면 물어보고), 모델들이 생각 못한 개선안을 네가 직접 떠올려 봐.

4. 서브 에이전트 쓸 거면, 걔네 세션에서 토큰 얼마나 쓰는지 확인해. 예상보다 비용 많이 나온 세션 있으면 3번에서 말한 것처럼 똑같이 분석 돌려봐.

5. 3번이랑 4번 과정을 거치면 서브 에이전트용 맞춤형 브리프를 만들거나, 에이전트가 하는 일을 줄여줄 커스텀 툴을 만들거나, 문서 구조를 개선해서 에이전트가 필요한 정보만 딱딱 가져가게(매번 새로 계산하게 하지 말고, 쓸데없는 데이터로 컨텍스트 채우지 말고) 만드는 데 필요한 정보들을 얻을 수 있을 거야.

도움이 됐으면 좋겠네.