r/ClaudeAI•3개월 전•351•131논쟁
Anthropic은 Claude Code의 에이전트 작업을 위해 연산 부담을 덜어줄 로컬 모델을 선택적으로 출시해야 한다
Anthropic should release optional local models to offload compute for agent tasks inClaude Code
핵심 요약
사용자들은 Claude Code의 연산 비용 절감과 효율성을 위해 로컬 모델 출시를 요구하지만, 비즈니스 모델상 불가능하다는 의견이 대립합니다.
- 로컬 모델 요구 — 사용자의 고성능 하드웨어를 활용해 토큰 비용을 절감하고 속도를 높이길 원함
- 비즈니스 모델 충돌 — Anthropic의 수익 구조가 클라우드 기반 API 호출에 의존하고 있어 로컬 모델 출시는 어려움
- 오픈 소스 경쟁 — 로컬 모델이 결국 클라우드 모델을 대체할 것인지, 아니면 기술적 격차가 유지될 것인지에 대한 논쟁
- 연산 비용 문제 — Anthropic이 경쟁사에 막대한 연산 비용을 지불하는 상황에 대한 비판적 시각
나는 그들이 클로즈드 소스인지, 아니면 Claude 훅(hook)에서만 작동하는지는 상관없음. 우리 대부분은 제대로 활용되지 않는 고성능 시스템을 가지고 있음. 만약 그들이 30B 파라미터 모델이나, 에이전트 작업을 위해 병렬로 실행할 수 있는 여러 개의 전문화된 8B 모델을 출시한다면, 토큰 비용을 아끼면서도 같은 품질을 유지하고, 어쩌면 더 빠르게 실행할 수 있을 거라고 확신함.
기술 자체에 대해 양자화된 모델을 학습시키고, 그 결과물이 대형 Claude 클라우드 모델이 기대하는 것과 정확히 일치하도록 만들면 됨.
어쩌면 그렇게 하면 연산 비용으로 일론 머스크에게 매달 12억 5천만 달러를 지불하지 않아도 될지도 모르지.
