Ultra(구 Max) 20배 주간 한도의 실체: Claude Code 토큰 유형별 사용량 분석

콜드 캐시와 웜 캐시 간의 턴 비용 차이를 보면, 스크립트나 테스트가 5분 넘게 실행될 때 서브 에이전트의 TTL을 5분이 아니라 60분으로 설정하는 게 얼마나 중요한지 알 수 있음.

이 부분 좀 더 자세히 설명해 줄 수 있음? 정말 중요한 내용 같아서.

5분짜리 캐시 쓰기는 입력 비용의 1.25배, 1시간짜리는 2배니까 1시간짜리는 재작성을 막아줄 때만 이득임. 서브 에이전트를 쓰면 보통 이득이지. 메인 에이전트가 서브 에이전트가 돌아가는 동안 놀고 있는데, 그 작업이 5분을 넘기면 메인 에이전트의 전체 컨텍스트가 캐시에서 날아가고 다시 시작할 때 전체 크기만큼 다시 써야 하거든. 1시간 TTL을 쓰면 긴 서브 에이전트 작업 동안 메인 에이전트를 따뜻하게 유지해주니까, 한 번 조금 더 내고 똑같은 큰 접두사를 계속 다시 쓰는 비용을 안 내도 되는 거야. 커피 타러 가거나 딴짓할 일이 없는 짧은 서브 에이전트 작업이라면 5분짜리 캐시 TTL이 더 싸.

사람들이 놓치는 건 서브 에이전트도 자기만의 캐시 TTL이 있다는 거야. 서브 에이전트가 테스트 스위트 실행처럼 긴 작업을 하느라 바쁘고, 턴 사이에 5분 이상 지나면 작업 도중에 캐시가 식어버려. 그럼 다음 턴에 자기 컨텍스트 전체를 다시 캐시 쓰기 비용으로 내야 하지. 내 기억에 플랜을 쓰면 메인 채팅은 기본적으로 1시간 TTL을 받지만, 서브 에이전트는 자동으로 그렇게 안 돼. 만약 네 서브 에이전트가 턴 사이에 5분을 자주 넘긴다면, 즉 판정, 테스트, 도구 실행처럼 시간이 좀 걸리는 작업을 한다면, 아래 설정을 추가해서 TTL을 60분으로 맞춰봐.

{ "subagentPromptCacheTtl": "1h" }

~/.claude/settings.json에 넣거나 CLAUDE_CODE_SUBAGENT_PROMPT_CACHE_TTL=1h 환경 변수를 쓰면 돼. (v2.1.242 이상 필요). 이 설정이 다른 TTL 설정보다 우선순위가 높으니까 어디에 넣는지 조심해. 메인 설정 파일보다는 서브 에이전트 파일에 넣는 게 나을 수도 있어.

1시간짜리 쓰기가 처음엔 좀 더 비싸지만(입력의 2배 대 1.25배), 테스트 실행이 5분을 넘길 때마다 전체 컨텍스트를 다시 쓰는 것보다는 훨씬 싸. 메인 에이전트랑 서브 에이전트 둘 다 5분으로 설정하면 에이전트가 식을 때마다 재구축 비용을 두 번 내는 꼴이니까. 내 프로젝트에서는 서브 에이전트 사용 비용이 35% 줄었어. 작업 방식에 따라 결과는 다를 수 있어.

어떤 사용자들은 예상되는 턴 길이에 따라 메인 에이전트가 호출할 때마다 TTL을 다르게 설정한 서브 에이전트 파일을 만들기도 하더라.

맞음. 나는 평균적으로 Opus 5.5 extra high 설정을 사용해 두 가지 작업을 동시에 돌리는데, 시간당 주간 사용량의 약 1%를 태우고 있음. 꽤 괜찮은 모델로 주당 총 150시간 정도 실행되는 것 같음. Max effort 레벨이 토큰 소모량은 크게 늘지 않으면서도 최소 20% 더 나은 성능을 보여주지만, 40% 정도 더 느리다는 걸 체감함. 그냥 속도와의 트레이드오프임.

압축을 하면 전체 대화 내용을 모델에 보내서 앞으로 이어질 대화의 요약을 작성하게 함. 만약 컨텍스트 윈도우가 캐시되어 있지 않으면, 먼저 캐시 쓰기 비용을 지불해야 함. 그러고 나서 요약을 출력으로 받고, 새로운 컨텍스트 윈도우는 그 요약부터 시작되는 거지.