200달러 구독료마다 앤스로픽이 7,800달러를 더 얹어주는 꼴임.

당연하지 당연해, 공산주의자 일론 머스크가 우리 모두에게 화성에 무료 요양원을 제공해 주겠지, 뻔한 소리.

보편적 고소득 ㅋㅋㅋ

맞아, 지금 전력이랑 컴퓨팅 자원 구하는 게 사실상 불가능해서 프리미엄을 내고 있는 거지. xAI랑 OpenAI는 GPU 얼마나 살 거냐고 물어보면 그냥 '네... 전부 다요'라고 답하는 수준이었으니까.

맞아, 지금 얘네가 하는 건 일종의 미끼 상품 전략 같음. 사람들이 AI에 중독되게 만들면서, 동시에 향후 3~5년 안에 컴퓨팅/전력 소비 문제를 해결할 수 있을 거라 기대하는 거지. 지금 여러 가지 기술이 쏟아져 나오고 있고, 사실상 데이터 센터가 그걸 주도하고 있어. 내가 알기로는 비용이 이미 엄청나게 줄었음. 3년 전에는 GPT-4 모델 돌리는 데 백만 토큰당 20달러가 들었는데, 지금은 40센트 정도고, 앞으로는 더...

내 이해로는 비용이 이미 엄청나게 줄었음. 3년 전에는 GPT-4 모델을 돌리는 데 백만 토큰당 20달러가 들었는데, 지금은 약 40센트고, 몇 년 안에 4센트까지 떨어질 것으로 예상됨.

그보다 훨씬 더 빨리 떨어지고 있음.

GPT가 바이럴 된 이후 사람들이 특정 작업을 해결하기 위해 모델을 사용하는 여러 비교 자료를 봤는데, 문제를 해결하는 비용이 18개월마다 10배씩 줄어들고 있었음.

그러다 12개월로 줄었고. 지금은 대략...

우리가 그래야 하지 않나?

전구 엄청나게 많이 켜는 꼴이지. 전 세계의 모든 인간이나 자동화된 LLM 쿼리(컴퓨터 켜놓거나 유휴 상태인 건 덤이고)를 다 본다고 상상해 봐. 난 지금 10개 돌리는 중(평소엔 안 그러지만).