미국이 오픈 LLM 시장에서 왜 이렇게 뒤처지는지 궁금한 사람?

음, Gemma는 꽤 괜찮아. 코딩 외적인 부분에서는 대부분의 중국 모델보다 나을걸. 게다가 실제로 가볍기도 하고. 메타도 (언젠가는) Muse Spark 1.2를 출시할 거고, Glimmer도 출시했잖아. Nemotron도 존재하고, 가장 오픈된 모델 중 하나지(학습 데이터까지 공개하니까).

봐봐, 나도 오픈 LLM을 사랑하지만 진실은 Qwen, Deepseek, Kimi, GLM 같은 오픈 모델 대부분이 미국 특허, 기술, 장비 등을 훔쳐서 학습되고 만들어졌다는 거야. 중국은 중국에서 사업하는 서구 기업들의 저작권을 보호하지 않으니까, 현지 경쟁사들은 항상 가격이나 노골적인 보조금으로 우위를 점할 수 있지.

여기서도 똑같은 상황이야. 이 기업들이 오픈 모델에 투자할 수 있는 이유는 보조금을 받고 있고, 연구 개발의 대부분을 미국 기업들로부터 추출하고 훔쳐올 수 있기 때문이지.

내 개인적인 의견은, 사랑과 전쟁에서는 모든 게 정당하다는 거야. 하지만 Qwen3.8(내가 제일 좋아하는 모델)이나 미국 프런티어 모델을 바짝 뒤쫓는 다른 중국 LLM들이 독창적이라고 생각하는 건 자기기만이지. 미국인으로서 기술이 발전하는 것에 자부심을 느끼되, 중국 기업들의 무자비한 산업 스파이 행위와 혁신 또한 인정하고 박수를 보내자고.

중국이 미국 모델에서 증류(distillation)를 하는 건 맞지만, 우리 모델에 특별한 비법이 있어서라고 생각하진 않아. 우리가 엔비디아 칩을 대다수 보유하고 있으니 그쪽 팀들은 같은 규모로 학습을 못 하는 거고, 낮은 규모에서 학습하는 가장 저렴한 방법이 증류인 거지. 화웨이의 차세대 GPU가 나오면 상황이 더 흥미로워질 거야.