업계 종사자가 보는 Claude의 요금 및 컴퓨팅 상황에 대한 인간적인 관점과 통찰

참고: 저는 AI 엔지니어입니다. Anthropic이나 직접적인 경쟁사에서 일하지 않습니다. 개인적으로 OpenAI와 Claude 프로 구독을 사용 중이며, 양쪽 모두의 엔터프라이즈 파트너이자 개인적인 친분이 있습니다.

저는 내부 역학 관계에 대해 (중립적으로) 설명하고자 합니다. 왜냐하면 제가 읽은 대부분의 의견은 큰 그림과 전체적인 비즈니스 상황(비즈니스 '고군분투'가 더 정확하겠네요)을 고려하지 않고 있기 때문입니다.

Anthropic은 제품 회사가 되는 법을 배우지 못한 연구소입니다. 원래의 claude.ai는 말 그대로 외부 개발자들에게 외주를 주어 만들어졌습니다. 창립 팀, 이사회, 문화 모두 연구원들입니다. 연구 팀이 원하는 것이 제품 팀이 원하는 것보다 우선순위가 높습니다. 그것이 그들의 DNA입니다. 이 점을 명심하세요.

내부적으로는 세 그룹이 컴퓨팅 자원을 두고 경쟁하고 있으며, 각 그룹의 인센티브 구조는 완전히 다르고, 그들이 가져오는 가치, 특히 그 가치의 시간적 지평도 매우 다릅니다.

• 연구 팀은 사용 시점에 수익을 전혀 창출하지 않습니다. 학습에 소비되는 모든 GPU 시간은 순수한 비용이며, 결과 모델이 나중에 그 비용을 정당화할 것이라는 도박입니다. 하지만 이것이 회사가 존재하는 이유 전체입니다. 연구가 없으면 다음 모델도 없고, 그들은 지금 신화를 학습시키고 있을 것입니다(아마도). 즉, 연구 팀은 컴퓨팅 자원에 굶주려 있습니다.

• 제품 팀의 한쪽 측면: 구독 사용자는 고정 요금을 냅니다. 200달러 요금제로 50달러어치를 쓰든 5,000달러어치를 쓰든 Anthropic은 200달러를 받습니다. 일부 Cursor 분석에 따르면 헤비 유저들은 자신이 지불하는 금액의 최대 25배를 소비합니다. GPU가 남고 현금을 태울 수 있을 때는 작동하지만, 영원히 지속될 수는 없습니다.

• 엔터프라이즈/API는 토큰당 비용을 지불하며 가용성에 따라 확장됩니다. 더 많은 GPU가 그들에게 할당될수록 수익이 즉시, 오늘, 바로 발생합니다. 포춘 10대 기업 중 8곳이 Claude 고객입니다. 연간 10만 달러 이상을 지출하는 고객은 지난 1년 동안 7배 성장했습니다. 2년 전에는 연간 100만 달러 이상 지출하는 고객이 12곳 정도였지만, 지금은 500곳이 넘습니다. 그들은 2024년 1억 달러 매출에서 2025년 10억 달러, 2026년에는 연간 140억 달러 매출을 기록할 것으로 추정됩니다. 그 성장의 압도적인 부분(약 80%)은 엔터프라이즈입니다.

그래서 피크 시간대에 누군가 GPU 시간을 잃어야 한다면, 누가 잘릴까요?

엔터프라이즈는 자를 수 없습니다. 그들은 실제 마진으로 정가를 지불하고 있으며 매출의 대다수를 차지합니다. 업무 시간에 컴퓨팅 자원을 얻지 못하면 그들은 이탈할 것이고, 기꺼이 그들을 받아줄 OpenAI로 떠날 것입니다.

연구 팀도 자를 수 없습니다. 문화적으로 그들이 회사를 운영하며, 실질적으로 그들이 다음 모델을 만들고 있기 때문입니다. 그 속도를 늦추면 18개월 안에 회사는 죽습니다.

세 그룹 모두 영향을 받는다고 생각하지만, 현실적으로 구독자가 타격을 입습니다. 오픈 소스에 대한 악의 때문은 아니라고 생각합니다. Anthropic 내부 관점에서 모든 직원은 이미 GPU 할당을 줄인 경험이 있습니다. 그들에게는 일상적인 일입니다. "사용자들도 타격을 감수할 수 있지 않을까"라는 생각은 건물 밖에서 보는 것만큼 내부에서는 극적으로 느껴지지 않습니다. 그들은 공감, 감정, 인간의 감정을 예측하는 데 어려움을 겪는 경향이 있습니다.

하지만 실제 근본적인 실패는 지난 2년 동안 충분한 컴퓨팅 자원을 구매하지 않았다는 점이며, 그것은 적극적인 선택이었습니다. Dario는 이에 대해 공개적으로 말했습니다. OpenAI의 전략은 "수학적 최적화를 시도하지 않고 항상 사용 가능한 모든 것을 말 그대로 구매한다"였습니다. Anthropic은 더 보수적이었습니다. 문제는 GPU 조달에는 18개월에서 3년의 리드 타임이 있다는 것입니다. 수요가 급증한다고 바로 더 살 수 없습니다. 1년 반 전에 주문을 넣었어야 했습니다.

그들은 이후 방향을 수정했습니다. 아마존 협력, Anthropic에 임대된 데이터 센터에 대한 구글 자금 지원, 300억 달러 조달 등이 그것입니다. 하지만 우리는 지금 그 공백기에 있습니다. 주문은 들어갔지만 하드웨어는 아직 설치되지 않았습니다. 그동안 세 내부 그룹은 오늘 사용 가능한 자원을 두고 싸우고 있습니다.