더 나은 컨텍스트 관리로 Claude API 비용 80% 절약하는 법

최근 Claude로 웹 앱을 만들고 있는데 토큰 제한 때문에 진짜 골치 아프더라고요. 연구용 툴에 Claude 4.6 Sonnet을 쓰고 있는데, 원시 웹 데이터를 그대로 넣으니까 제한이 순식간에 날아가 버렸습니다.

토큰을 아끼고 비용을 줄이기 위해 실제로 효과를 본 방법들을 정리해 봤습니다:

Markdown으로 전환하세요. 원시 HTML을 보내지 마세요. Firecrawl 같은 툴을 써서 중첩된 div나 스크립트 찌꺼기를 제거하면 실제 텍스트에 대해서만 비용을 지불하면 됩니다.

프롬프트 캐시를 식히지 마세요. Anthropic의 프롬프트 캐싱은 정말 큰 도움이 되지만, 데이터가 일관될 때만 작동합니다.

200k 토큰 "프리미엄" 점프를 조심하세요. Anthropic은 이제 새로운 Opus/Sonnet 4.6 모델에서 200k 토큰이 넘는 입력에 대해 거의 두 배의 요금을 부과합니다. 추가 요금을 피하려면 컨텍스트를 그 제한 아래로 유지하세요.

내비게이션과 푸터를 제거하세요. 웹사이트의 "회사 소개"나 "채용 정보" 같은 푸터 링크는 메시지를 보낼 때마다 돈을 태우는 꼴입니다.

간단한 단일 페이지 읽기에는 Jina Reader를 사용하세요. 크롤러의 군더더기 없이 깔끔한 텍스트 버전을 얻는 좋은 방법입니다.

컨텍스트를 자르세요. 문서 페이지가 20k 단어라면 앞의 5k만 가져오세요. 대부분의 "핵심"은 보통 앞부분에 있으니까요.

Unstructured.io로 데이터를 정리하세요. 웹 데이터와 함께 지저분한 PDF를 다룬다면, 이 툴이 혼란스러운 데이터를 Claude가 이해할 수 있는 깔끔한 스키마로 바꿔줍니다.

크롤링 전에 맵핑하세요. 모든 하위 페이지를 무작정 긁지 마세요. 저는 Firecrawl의 맵 기능을 써서 프롬프트에 정말 필요한 특정 문서 URL만 찾습니다. 다른 툴을 쓴다면 이 방식을 선호하세요.

"쓰레기" 작업에는 Haiku를 쓰세요. Opus 같은 비싼 모델에 데이터를 넣기 전에 Claude 4.5 Haiku를 사용해 데이터를 요약하거나 필터링하세요.

스마트 청킹을 사용하세요. Llama-index를 써서 데이터를 의미 단위로 쪼개면, AI가 특정 프롬프트에 필요한 정확한 문단만 검색하게 할 수 있습니다.

"Extended thinking" 깊이를 제한하세요. Opus 4.6의 경우, thinking: {type: "adaptive"}와 effort: "low" 또는 "medium"으로 설정하세요. 4.6에서는 예전 budget_tokens 파라미터가 폐기되었습니다. 생각 토큰은 출력 요금으로 청구되므로, effort를 high로 두면 Claude가 간단한 질문에도 매번 깊게 생각해서 비용이 많이 나옵니다.

하드 사용 제한을 설정하세요. Anthropic 콘솔에서 지출 한도를 설정해서 자는 동안 버그 난 루프 때문에 은행 계좌가 털리는 일을 방지하세요.

제 설정에 대해 마음껏 비판하거나 더 좋은 팁이 있다면 공유해 주세요.