r/LocalLLaMA•27일 전•492•122
Qwen이 왕좌를 차지할까?
Qwen will be the king?
핵심 요약
DeepSeek, Qwen 등 중국 모델들의 성능 향상과 향후 오픈 웨이트 공개 여부에 대한 논의가 활발합니다.
- 성능 향상 비결 — 확장된 추론과 포스트 트레이닝을 통해 토큰 활용도를 극대화함
- 오픈 웨이트 기대감 — 중국의 오픈 웨이트 정책 기조에 따라 Qwen 4 공개를 긍정적으로 전망함
- 모델 활용성 논쟁 — 대형 모델의 오픈 웨이트 가치와 로컬 환경에서의 실용성을 두고 의견이 갈림
- 경쟁 모델 비교 — Kimi K3와 Qwen 모델 간의 장단점 및 에이전트 작업 적합성을 비교함
DeepSeek, Qwen, 그리고 GLM이 성능 끌어올리려고 쓰는 핵심 비결은 확장된 추론(extended reasoning)이랑 사후 학습(post-training)인 듯함(토큰 수 존나 늘리는 방식). 심지어 Qwen 4는 아직 나오지도 않았음. 물론 이게 오픈 소스로 풀릴지는 아무도 모르지만, 조만간 "엔그램(engrams)" 기술 탑재한 모델들이 특정 작업에서 2.4T 파라미터급 모델들 씹어먹거나 비슷해질 거라고 본다. 난 꽤 긍정적으로 봄.
