Codex와 Work의 영구 캐싱 기능으로 Pro 구독의 가치가 그 어느 때보다 높아짐

요즘 구현 방식에서는 딱히 느리지 않아. 그리고 이건 TTFT(첫 토큰 생성 시간)에만 영향을 주지 디코딩 속도에는 영향 안 줌. 재계산하는 것보다 훨씬 빠르지. 복구는 1초도 안 걸릴 거야. 서버 운영을 이해한다면 이번 챌린지에서 추가된 것 중 최고라고 볼 수 있어.

더 심한 경우도 있어. 텍스트 어드벤처를 길게 하고 있었는데, 20달러 플랜에서 메시지 두 번 보내고 나니까 43%까지 올라가더라.

글쎄, 두고 봐야지!

더 좋은 점은 업계 전체의 새로운 기준이 될 수 있다는 거야. Anthropic 같은 곳도 따라 하겠지. 그래도 '보안 문제'를 핑계로 12~24시간만 캐시를 유지하고 자주 로그인하게 만들 거라는 의심이 드네.