Cursor Premium: Grok Chat 메시지 8개에 주간 할당량 3%(150만 토큰) 소모

난 Pro+에 머물러 있어서 다행이야 (어차피 3월까지 가는 연간 플랜이라서).

Grok Bot 사용량은 얼마나 돼?

미안, 난 안 써봤어. 근데 엄청 비쌀 것 같아. 난 그냥 Cursor만 써.

공유해 줘서 고마워

만약 그 8개의 메시지가 하나의 채팅방 안에 있었다면, 메시지를 보낼 때마다 이전 대화 전체를 다시 보내게 되고, 그 반복되는 부분이 캐시된 프롬프트 토큰으로 잡히는 거야. 캐시된 토큰은 보통 더 저렴하게 책정되지만, 네 내역을 보면 여전히 총합에 포함되는 것 같네. 질문마다 새 채팅을 시작하면 소모량을 줄일 수 있어. 첫 번째 메시지부터 이미 67K 정도가 캐시되어 있었는데, 이건 파일이나 코드베이스 컨텍스트가 엄청나게 많이 포함되어 있다는 뜻이니까 보내기 전에 컨텍스트에 뭐가 들어있는지 확인해 봐.

눈에 띄는 숫자는 02:41 요청의 253K 캐시된 프롬프트야. 그건 이전 대화 전체가 캐시된 접두사로 다시 전송된 거고, 각 메시지가 기록에 추가되기 때문에 하나의 긴 스레드에서는 총 토큰 수가 이차함수적으로 증가해. 캐시된 토큰은 토큰당 가격은 싸지만 여전히 할당량에서 차감되니까, 하나의 스레드에서 8번 대화하는 게 8개의 별도 스레드보다 훨씬 비싼 거야. 관련 없는 질문마다 새 채팅을 시작하면 메시지당 비용이 초기 요청 때처럼 20K~40K 범위로 돌아올 거야.

그럼 구독료 1달러당 15~20달러어치를 쓰는 셈이네. 조금 낮긴 하지만 구독 서비스치고 아주 나쁜 건 아니야. 진짜 문제는 프롬프트 효율성이지.

캐시된 토큰은 원래 저렴한 부분이어야 해. Anthropic 문서에 따르면, 대부분의 Claude 모델에서 캐시 읽기는 기본 입력의 0.1배, Fable 5.1에서는 0.025배(백만 토큰당 약 25센트)로 청구돼. 만약 네 할당량이 그 931K의 캐시된 토큰을 전체 무게로 계산하고 있다면, 그건 서포트에 문의해 봐야 할 문제야.