KIMI K3가 arena.ai에서 Claude Fable과 GPT 5.6 sol을 이겼다!!!

프론티어 기업들이 너무 오랫동안 적자만 보다가 이제 한계에 부딪혀서 가격을 엄청나게 올리려는 상황임. 아직 공개된 건 아닌 것 같은데 B2B 가격이 미친 듯이 널뛰는 게 보임.

근데 사람들이 그만큼 돈을 더 내진 않을 거거든. 그래서 난 이게 효율성 개선에 압박을 줘서, 결과적으로 우리가 로컬 하드웨어에서 돌릴 수 있는 더 작은 모델들의 성능 향상으로 이어지길 바라고 있음.

그냥 희망 회로 돌리는 걸 수도 있는데, AI 서비스가 충분히 저렴해질 수 있는 유일한 길은...

그냥 무작정 스케일링만 하는 건 한계가 왔음. 최신 논문들 좀 봐봐. 예를 들면 SAO나 glm-5.2 관련 안티 해킹 정보, HOLA 같은 거... 중국이 최적화 쪽으로 훨씬 빠르게 움직이고 있어.

맞아, 멍청한 미국 정책 때문에 강제로 최적화를 해야만 했지. 그 덕을 보는 거라 아주 좋네.

씨발, 쟤한테 반했다.

경제성(무료)도 고려해야 함.

난 오픈 웨이트 모델 진짜 좋아함. 로컬에서 돌리려고 128GB Minisforum MS-S1에 거의 3천 달러 썼음. 짧은 시간 안에 진짜 많이 배웠고, 아주 만족함.

근데 무료라고? 전혀 안 무료임. Kimi K3 돌릴 하드웨어는 확실히 공짜가 아님. 난 Deepseek v4 Flash (284b a13b)를 q2/q4 퀀트로 돌리는데 메모리만 100GB 넘게 먹음. Kimi K3의 2.7t 파라미터는 아무리 퀀타이즈가 잘 돼서 작아진다 해도 돌리려면 1TB 넘는 메모리가 필요할 텐데...

빅테크 기업에 자기 데이터를 넘기기 싫어하는 기업이나 개인들이 엄청 많음. 법 때문에 못 넘기는 경우도 허다하고.

맞음, 당연하지. 그 사람들한테는 이게 엄청난 선택지인 것도 맞고. 그건 의심할 여지도 없고 내가 딱히 반박한 적도 없음. 근데 그렇다고 해서 직접 돌리는 게 공짜라는 건 아니라는 거지.