30분 이상 지난 대화를 재개할 때 발생하는 엄청난(5시간 사용량의 15% 이상) 비용을 피할 방법이 있을까요?
Is there a way to avoid the huge (15% + of 5h usage) tax when restarting conversations that are >= 30 minutes or so old
핵심 요약
Claude Code 사용 시 세션 유휴 상태로 인한 캐시 만료와 그에 따른 과도한 토큰 소모 문제에 대한 불만과 해결책 논의.
- 캐시 만료 문제 — 세션이 일정 시간 비활성화되면 캐시가 삭제되어 재처리 비용이 발생함
- 투명성 부족 — 캐시 만료 시 사용자에게 명확한 경고가 부족하다는 지적
- 워크플로우 최적화 — 세션 관리, 모델 전환, 외부 메모리 도구 활용 등의 해결책 제시
- API 설정 조정 — 캐시 유지 시간(TTL)을 늘려 캐시 생존 시간을 연장하는 방법 공유
도대체 무슨 상황인지 모르겠네.
대화가 다른 백엔드 서버로 옮겨졌거나, 프롬프트 캐싱 쪽에서 뭐가 꼬였거나, 아니면 다른 이유 때문인 것 같은데 어쨌든 그 비용을 내가 다 내야 하는 상황임.
내 5시간 사용량(최대 5배)이랑 그에 따른 주간 사용량의 거의 20%가 아무 이유 없이 그냥 날아가는 건 진짜 심각한 문제라고 봄. 내 생각엔 연속적인 대화 흐름에서 이런 식으로 백엔드 사용량이 갑자기 튀어서 그 비용을 사용자한테 떠넘기는 건 말이 안 됨. 게다가 투명하지도 않음. "여기서 프롬프트 한 번 더 입력하면 사용량 엄청나게 잡아먹을 거다" 같은 경고 문구조차 없으니까.


