GLM 5.2가 이제 Deepseek V4 Flash나 Claude Haiku보다 저렴해짐. Claude code를 그 어느 때보다 싸게 돌릴 수 있게 됨......

근데 걔네 돈 태우는 거 아님? 아니면 중국 공급업체들이 모델 돌리는 효율을 찾은 건가. 연산 비용을 이렇게 싸게 만드는 방법을 찾은 건가??

Inference는 여전히 좀 비싸. Frontier model들은 출력 토큰 100만 개당 약 5 kWh를 쓰니까, 운영 비용 하한선은 출력 토큰 100만 개당 약 0.75달러 정도야.

그건 모델 크기에서 도출된 수치임. Nvidia의 하이엔드 장비들의 토큰 처리량 대비 전력 수요를 봐도 비슷한 결과를 얻을 수 있어.

물론 Frontier model들이 예상보다 더 크다면 비용이 더 들 수도 있고, 알려진 것보다 더 효율적으로 Inference가 가능하다면 더 낮아질 수도 있겠지.

나도 이거 이해가 안 가네. 여러 업체들이 지금 Z의 가격 인하에 맞추고 있는데, 그럼 다들 지난 두 달 동안 추론 비용의 20배를 받고 팔고 있었다는 소리야? GLM이 어떻게 v4 flash보다 더 싼 건데??

DeepSeek 가격 인상 발표로 다들 피 냄새 맡고 그동안 걔네가 차지하고 있던 '물보다 싼' 티어에 비집고 들어가려는 거 아닐까 싶네. Muse Spark를 위한 메피스토펠레스 같은 '기여자 티어' 정책을 내놓은 Meta의 행보도 확실히 그런 것 같고.

아니, 안 그래. Dax가 밝히길 걔네는 임대 GPU에서도 저렴한 Deepseek V4 가격을 맞출 수 있다고 했어. 밖에 나와 있는 모든 모델은 수익을 내면서 운영돼. 걔네가 돈을 잃는 건 추론 비용 때문이 아니라 새로운 모델을 학습시키는 비용 때문이야.

나도 할인 적용된 다른 제공업체들 확인해 봤음. 아마 네 지역에 맞는 가격을 보고 있는 것 같아. 난 EU에 있어서 OpenRouter 말고는 다른 제공업체들에 접근이 안 됨.

그 글 하루 만에 꼴이 말이 아니게 됐네.

OpenRouter에서 StreamLake를 통해 쓰는 GLM 5.2는 나한테는 이거보다 10배나 더 비싼데 (영국 거주 중). StreamLake 웹사이트에도 이런 가격은 안 나와 있고...