내 Dot이 100달러 구독료로 출시 첫날부터 하루에 16억 토큰을 태우고 있음

TL;DR: 출시 첫날부터 클라우드 컴퓨터에서 자율적으로 돌아가고 있는 One Dot은 내 프로필 페이지 확인 결과 하루에 약 16억 개의 Astra 토큰(한 달에 약 480억 개)을 퍼먹고 있음. 대충 API 비용으로 환산하면 하루에 15,000~20,000달러, 한 달이면 450,000~600,000달러(중간값 54만 달러 정도)인데, 이게 다 구독료 안에 포함돼 있다는 거임. 이 녀석은 내가 옆에 없어도 몇 시간씩 설계-계산-검증 루프를 돌리면서 완전한 엔지니어링 패키지(CAD, 계산서, BOM, 전기 도면, 제작 도면 등)를 뽑아냄. 실제로 이 녀석이 짠 프로그램으로 레이저 커터 돌려서 부품 깎아봤는데 아주 잘 나옴. 이 가성비가 언제까지 갈지는 모르겠으니 꿀 빨 수 있을 때 빨아두려고 함. 아, 물론 사람이 검토 안 하고 바로 제조 공정에 넘기는 짓은 절대 안 함.

Dots 출시 첫날부터 Dot 하나를 계속 돌리고 있는데, 그때부터 지금까지 매일 16억 개의 Astra 토큰을 태우고 있음. 한 달이면 480억 토큰 수준임.

Dot한테 큼직한 엔지니어링 과제를 던져주고 몇 가지 확인 질문에 답해주면, 그 뒤로는 하루 종일, 때로는 며칠씩 지 클라우드 컴퓨터에서 알아서 일을 함. 나중에 내가 구글 드라이브에 작업할 내용이 담긴 문서를 올려두면 하나씩 처리하라고 시키는 식임.

실제로 어떻게 돌아가는지 보여줌.

1. 바닥부터 새로 설계한 복잡한 물리적 구조물.

CAD 모델을 만들고, 구조를 수정하고, 제작용 지오메트리와 조립 설명서를 뽑고, BOM이랑 전기 도면을 작성하고, 엔지니어링 계산까지 다 돌림. 결과물 패키지에는 이런 게 들어있었음:

• 1,000개 이상의 고유 부품

• 전체 STEP 조립품에 6,000개 이상의 솔리드

• 300페이지에 달하는 조립 도면 및 문서

• 수백 개의 문서화된 전기 연결 정보

• 제작용 부품 및 조립품

• 조달/BOM 스프레드시트

• 기계 판독 가능한 매니페스트 및 검증 데이터

• 구조/하중 계산 및 민감도 분석 사례

2. 강도 및 열 해석이 포함된 복잡한 엔지니어링 제품.

강도 계산, 열 해석, 열 변형 사례를 돌리고, 결과에 따라 설계를 수정하고, 수치가 맞을 때까지 이 과정을 계속 반복함.

3. 실시간 3D 애플리케이션용 상세 3D 콤바인 수확기.

모델을 분석해서 여러 최적화 단계를 만들고, 중요한 부분은 살리면서 지오메트리를 엄청나게 깎아냄. 원본 모델은 활성 삼각형이 20만 개 정도였는데, 후보군들은 대략 15만 2천 개, 8만 4천 개, 5만 6천 개, 5만 개 수준으로 나옴. 실제 카메라 시점에서의 가시성 테스트도 하고, 기계 상태별로 수천 개의 검증 렌더링을 생성한 뒤 스크립트와 무결성 체크까지 포함해서 패키징함.

제일 지리는 건 그냥 예쁜 모델 하나 던져주고 "잘 나왔죠?" 하는 게 아니라는 거임. 설계, 계산, 문제 발견, 지오메트리 수정, 재계산, 검증, 문서화라는 지루한 엔지니어링 루프를 계속 돌림. "원샷(One-shot)"이라고 해서 추론 한 번 한다는 뜻이 아님. 내가 과제를 한 번 주면, 이 녀석은 내부적으로 수천 번의 사이클을 돌림: 파일 검사, 추론, CAD/코드 수정, 툴 실행, 결과 확인, 시뮬레이션, 수정, 검증, 반복.

토큰 수치에 관하여

하루 16억 토큰이면 초당 18,500 토큰 꼴임. 당연히 이게 생성 속도는 아님. 이런 작업에서는 대부분이 반복적인 컨텍스트 처리일 확률이 높음. 그러니까 이건 내 프로필 페이지에 찍힌 누적 토큰 수치임.

비용에 관하여

이 정도 작업량을 API로 돌리면 얼마 나올지 계산해 봤음. 입력/출력/캐시 비율, 긴 컨텍스트 가격, 추론 토큰 비용에 따라 천차만별이라 정확한 청구 금액은 아니지만, 대충 하루에 15,000~20,000달러 정도 나올 듯함. 하루 18,000달러 잡고 30일이면 한 달에 45만~60만 달러, 중간값으로 54만 달러 정도임.

근데 이게 100달러짜리 구독 상품 안에서 돌아가고 있다는 거임. 이 부분이 진짜 미친 거 같음.