r/ClaudeAI•23일 전•16•17
프롬프트 캐시 TTL: 1시간 설정이 기본 5분보다 유리한 경우는?
Prompt cache TTL: when does 1 hour beat the default 5 minutes?
핵심 요약
Claude Code의 프롬프트 캐시 TTL 설정 시, 작업 간격이 긴 경우 1시간 설정이 비용 효율적일 수 있는지에 대한 논의.
- 비용 효율성 분석 — 15~45분 간격의 작업 시 1시간 TTL이 캐시 적중률을 높여 비용 절감 가능함
- 캐시 메커니즘 — 캐시 읽기 시 타이머가 갱신되므로 세션이 길어질수록 1시간 설정의 이점이 커짐
- 사용 사례 — 장기 세션이나 빌드 시간이 긴 네이티브 앱 개발 시 1시간 TTL이 유리함
- 구독 모델 차이 — 일반 채팅은 1시간 고정이며, API/Bedrock 등에서만 설정 변경이 가능함
Claude Code의 프롬프트 캐시 TTL 설정을 좀 살펴봤거든. 기본값은 5분인데, 1시간까지 늘릴 수 있더라고.
트레이드오프는 딱 보면 알겠지? 5분짜리 캐시 쓰기는 입력 비용의 1.25배인데, 1시간짜리는 2배거든. 근데 작업 속도가 좀 느린 경우에는 오히려 TTL을 길게 잡는 게 더 쌀 수도 있지 않을까 싶어서 말이야.
나 지금 5x Max로 Claude를 엄청 굴리고 있는데, 보통 세션 2~3개씩 띄워놓고 써. 실제로 코드 리뷰하거나 질문 답변하고, 다른 세션 처리하다 보면 답장 보내는 데 15~45분 정도 걸리거든. 1시간 넘기는 경우는 거의 없고.
그러다 보니 5분짜리 캐시는 계속 만료돼서, 캐시 히트도 못 누리고 캐시 쓰기 비용만 계속 날리고 있는 거 아닌가 싶네.
혹시 이거 손익분기점 계산해 본 사람 있어?
예를 들어, 세션이 보통 30~45분 안에 다음 메시지를 받는다고 치면, 1시간짜리 캐시 쓰기의 높은 비용이 추가적인 캐시 히트로 충분히 상쇄가 될까? 아니면 Claude Code의 캐싱 방식 때문에 생각보다 별로인 건가?
참고로 Medium이나 Max 말고 High/Extra High effort 기준으로 생각해 줘.
