후속: Anthropic이 4월 2일부로 기본 캐시 TTL을 1시간에서 5분으로 조용히 변경했습니다. 데이터는 여기 있습니다.

저는 대시보드에 이를 보여주는 차트를 추가했습니다. 두 개의 시간적 선 그래프: 캐시 버스트 빈도와 캐시 버스트 비용, 각각 두 개의 선(1h 계층은 청록색, 5m 계층은 호박색)이 있습니다. 선들은 4월 2일에 교차합니다. 그 다음 세션당 정규화된 전후 비교 막대 그래프가 있습니다. 실제 데이터에서의 교차점은 매우 명확합니다.

제가 조사하는 동안 대시보드에 나타난 또 다른 사실은 세션당 읽기 횟수가 증가하고 있으며, 중복 읽기도 그에 따라 추적되고 있다는 점입니다. 중복 읽기란 단일 세션에서 동일한 파일을 3번 이상 읽는 것을 말합니다. 두 선 모두 TTL 전환 이후 상승하고 있습니다. 이는 우연이 아닙니다. 캐시가 세션 중간에 만료되면 Claude는 이미 본 내용에 대한 확신을 잃고 컨텍스트를 재확립하기 위해 파일을 다시 읽기 시작합니다. 각 재읽기는 대화 기록을 부풀리고, 이는 다음 캐시 재구축을 더 비싸게 만듭니다. 두 문제는 서로를 악화시킵니다.

이전에는 만료가 보이지 않았지만, 차단함으로써 적어도 인지할 수는 있게 되었습니다. 이 훅들은 이제 토큰 인사이트 스킬의 일부입니다. /get-token-insights를 실행하고 Claude가 세션에서 동일한 패턴을 발견하면 설치를 제안합니다. 수동으로 설정하고 싶다면 스크립트는 다음과 같습니다:

• plugins/claude-memory/hooks/cache-warn-stop.py
• plugins/claude-memory/hooks/cache-warn-3min.sh

~/.claude/settings.json의 Stop, UserPromptSubmit, 그리고 백그라운드 타이머를 위한 Stop에 다시 추가하세요.

그리고 제가 본 사람 중 아무도 언급하지 않은 5분 TTL의 가장 큰 골칫거리는 '백그라운드 작업이 돌아올 때 캐시를 버스트한다'는 것입니다. Claude가 긴 도구 호출이나 에이전트를 실행하면 실행을 백그라운드로 돌리고 세션을 일시 중단합니다. 그 작업이 돌아오는 데 5분 이상 걸리면, 결과를 볼 때쯤에는 이미 캐시가 만료된 상태입니다. 작업이 시작되기 전에 가졌던 컨텍스트를 재구축하기 위해 다음 턴에서 전체 입력 비용을 지불하게 됩니다. Claude는 시간이 더 걸릴 것으로 예상되는 작업을 정확히 백그라운드로 돌리기 때문에 이는 특히 고통스럽습니다. 5분이 넘는 간격의 /loop 또는 /schedule 명령도 같은 결과를 초래합니다. 모든 복귀는 예산에 없던 전체 캐시 버스트입니다.

언급할 가치가 있는 다른 글로벌 settings.json 설정은 다음과 같습니다:

"env": {
    "CLAUDE_CODE_DISABLE_1M_CONTEXT": "1",
    "ENABLE_TOOL_SEARCH": "1"
},
"showClearContextOnPlanAccept": true

이것은 컨텍스트를 100만 토큰 대신 200k로 제한합니다. 캐시가 만료될 때마다 처음부터 재구축하므로, 컨텍스트가 넓을수록 각 버스트 비용은 더 나빠집니다. 1M 토큰에서는 200k보다 5배 더 큰 재구축이 일어납니다. 4월 2일 이전보다 버스트가 12배 더 자주 발생함에 따라 복합적인 문제는 빠르게 악화됩니다. 확장된 컨텍스트를 비활성화하는 것이 가장 영향력 있는 설정입니다.

제 생각엔 더 음흉해요. OAI는 적어도 '얘들아, 비용이 너무 많이 들어서 플러스 사용량을 줄여야 해, 미안해. 대신 100달러 플랜을 준비했어. 그리고 사용량을 계속 초기화할 거고 효율성을 높여서 늘려보도록 할게'라고 말이라도 했잖아요. 적어도 무슨 일이 일어나는지 미리 말은 해주죠.