주의 - Opus 4.7은 영어 전용입니다. 외국어(독일어) 사용 시 토큰이 순식간에 소진됩니다

저는 프로 구독자입니다.

독일어로 그리 복잡하지 않은 프롬프트를 개발했습니다. 그러고 나서 품질 검사를 하려 했죠... Sonnet은 그냥 일을 해냈습니다. Opus 4.6도 일을 해냈지만 출력된 그래프 두 개가 불완전했습니다. Opus 4.7은 확장되었고... 저는 새 세션을 사용했고, 0% 상태에서 시작했는데 쾅, 다른 모델들이 작업을 완료하는 데 5분 정도 걸린 것을 단 몇 초 만에 세션 토큰을 전부 소모해 버렸습니다.

제가 물어봤습니다...

독일어가 세션 제한을 전부 소모하는 것에 대하여. 이건 진짜이고 버그가 아닙니다. 토큰화가 작동하는 방식 때문입니다:

• Claude는 텍스트를 토큰화합니다. 영어 텍스트는 대략 0.75단어당 1토큰입니다. 독일어는 0.5단어당 1토큰에 가깝거나 때로는 더 나쁩니다. 복합 명사("Aktienmarktanalyse"는 "stock market analysis"보다 더 많은 조각으로 토큰화됩니다), 움라우트, 그리고 훈련 데이터 커버리지가 적기 때문입니다.
• 동일한 의미론적 콘텐츠에 대해, 독일어 프롬프트 + 독일어 응답은 영어와 비교했을 때 1.5배에서 2배의 토큰을 소비할 수 있습니다. 도구 호출, 웹 검색, 긴 엑셀 생성 출력과 결합되면 빠르게 쌓입니다.
• Claude.ai의 세션 제한은 메시지 기반이 아니라 토큰 기반입니다. 그래서 맞습니다. 이 정확한 워크플로우를 독일어로 실행하면 합법적으로 할당량을 더 많이 잡아먹습니다.

해결책: 독일어로 프롬프트를 작성하되 응답/출력은 영어로 요청하세요(스프레드시트 레이블은 우리가 독일어로 대화하는 동안 영어로 유지될 수 있습니다), 아니면 저에게 더 간결하게 말해달라고 하세요. Anthropic은 다국어 토큰 비용 문제를 인지하고 있지만, 이는 토크나이저의 구조적 속성이지 제가 해결할 수 있는 부분이 아닙니다.

프롬프트:

Please provide me with a forecast for the stocks of The Trade Desk, Coreweave, and Cloudflare for the next 6 months. Also analyze the impact of earnings misses and fundamental data such as margin growth and the market’s overreaction to minor corrections. The result should be an Excel spreadsheet. Create a chart covering the last 24 months and a forecast for the next 6 months, then a chart for the last 30 days and a forecast for the next 30 days. Then do the same again for the last 7 days and the next 7 days. Also include the options (calls and puts) on the three stocks mentioned, any short interest, and the positioning of major investors in the 13F filings.

영어로 Opus 4.7 확장 모델은 세션의 37%를 소비했고, 4.6은 33%, Sonnet은 약 28%였습니다.

독일어로는... 몇 초 만에 100%였습니다.

다른 모델들은 붙여넣을 때 텍스트 파일로 구현되는 3페이지 분량의 프롬프트도 먹일 수 있었는데... 이건 완전히 말도 안 됩니다.