r/opencode•3일 전•52•25
싼 게 비지떡 - DeepSeek 캐시 적중률 문제
CheepSeek has its price - cache hit ratio
핵심 요약
OpenCode의 DeepSeek API 사용 시 캐시 적중률이 낮아 실제 비용 효율이 떨어질 수 있다는 분석입니다.
- 캐시 적중률 비교 — OpenCode는 직접 API 대비 캐시 적중률이 낮아 더 많은 비용이 발생함
- 비용 효율성 의문 — 저렴한 가격을 내세우지만 캐시 미스로 인해 실제 운영 비용은 더 높을 수 있음
- 제공자 불투명성 — OpenCode가 어떤 양자화 모델이나 라우터를 사용하는지 명확하지 않음
- 측정 환경 — Pi 에이전트를 통해 동일한 프롬프트로 테스트한 결과임
오늘 DeepSeek 쓰면서 캐시 미스(캐시된 토큰이 X에서 0으로 떨어지는 현상)가 엄청나게 발생하는 걸 확인했다. 그래서 OpenCode Go랑 DeepSeek API 직접 호출하는 걸 비교해 봤음. 캐시가 이렇게 터져나가는데 10달러짜리를 60달러라고 하는 건 좀 아니지.
리뷰어 실행 환경이었고, 둘 다 똑같은 프롬프트랑 하네스 돌렸음.
| name | Context Window | Total Reads | Cache Hit Ratio | API pricing |
|---|---|---|---|---|
| OpenCode Go High | 77k | 1.2M | 74.8% | $0.076 |
| OpenCode Go Max | 99k | 1.5M | 81.1% | $0.080 |
| Direct API High | 72k | 735k | 92.6% | $0.0255 |
| Direct API Max | 91k | 909k | 92.6% | $0.032 |
직접 API 호출도 턴 수가 적어서 컨텍스트 윈도우가 다 안 찼고, 그래서 캐시 히트율이 높진 않았음. 더 긴 작업 돌리면 히트율은 훨씬 올라갈 거임. 근데 직접 API는 캐시 미스가 0건이었는데, OpenCode는 몇 턴마다 계속 미스가 나더라.
컨텍스트 윈도우가 커지면 API 정가랑 OpenCode 사이의 가격 차이는 훨씬 더 벌어질 거다.
세 줄 요약: 10달러짜리를 60달러라고 하는 건 사기임. 게다가 그쪽 업체가 무슨 양자화(quant)를 써서 그렇게 싸게 트래픽을 퍼주는 건지도 알 수가 없음. 어쨌든 이번 리뷰에서 OpenCode의 DeepSeek은 직접 API보다 턴 수도 더 많이 쓰고, 컨텍스트 윈도우랑 총 읽기 횟수도 더 많아서 결과적으로 더 비쌌음.
pi를 쓰는 중이라면 설정에서 캐시 미스 알림을 켤 수 있다:
수정: 나 OpenCode 안 씀. 측정은 전부 Pi에서 한 거임.
