Cheapseek의 새로운 캐싱 기능이 작동하지 않는 것 같음. 30분 만에 메시지 3~4개로 3달러 날림.
The new Cheapseek's caching evidently doesn't work. Just burned $3 in about 30 minutes across 3 or 4 messages.
핵심 요약
Cheapseek 사용자가 캐싱 오류로 인해 과도한 토큰 비용이 발생했다고 주장하며, 다른 사용자들과 캐싱 문제에 대해 논의함.
- 캐싱 오류 — 캐시가 제대로 작동하지 않아 토큰 비용이 평소보다 훨씬 많이 발생함.
- 사용자 경험 — 일부 사용자는 캐싱이 정상적으로 작동한다고 보고하며 워크플로우 문제를 의심함.
- 기술적 원인 — 제공업체 간 라우팅 문제나 노드 분산으로 인한 캐시 미스 가능성이 제기됨.
- 비용 최적화 — 피크 시간대를 피하거나 공식 API를 직접 사용하는 방안이 권장됨.
'Operation Cheepseek' 1단계가 어떻게 구현된 건지는 잘 모르겠는데(DS 자체를 쓰는 게 아니라 다른 제공업체를 쓰는 거 같음), 그냥 아예 작동을 안 함. DS V4 Flash로 프롬프트 몇 개 날렸는데 30분 만에 토큰 3달러 그냥 태워 먹음. 캐싱이 전혀 안 되고 있다는 소리지. 사용량 대시보드 보니까 하네스(harness)에서 나가는 하위 요청 하나당 평소 0.0005달러가 아니라 0.05~0.10달러씩 찍히고 있음.
지금 구독 월간 사용량 93% 찍었는데, 이거 다 떨어지면 그냥 DS API를 직접 쓰는 게 낫지 않나 싶다...
수정: 다들 캐시 잘 된다고 하네. 세션 새로 파니까 일단은 괜찮은 듯. 그냥 나한테만 일어난 일회성 버그였는데 하필 비싼 놈이었나 봄... 진작 눈치 못 챈 게 아쉽네.

