r/LocalLLaMA•약 2개월 전•116•80논쟁
Qwen 3.8 35-A3B 모델이 나올까?
Are we getting Qwen 3.8 35-A3B?
핵심 요약
Qwen 3.8 출시를 앞두고 MoE 모델 포함 여부와 덴스 모델의 성능 및 효율성에 대한 사용자들의 논의가 활발함.
- Qwen 3.8 출시 — 덴스 모델 출시 가능성에 따른 하드웨어 성능 저하 우려함.
- MoE 모델 선호 — 적은 활성 파라미터로 높은 효율을 보여준 35B-A3B 모델을 그리워함.
- 대안 모델 공유 — KAT-Coder 등 기존 모델의 활용 사례 및 성능 평가를 공유함.
- 하드웨어 최적화 — Apple M5 등 다양한 환경에서의 모델 구동 경험을 나눔.
지금 돌아가는 꼴 보니까 Qwen 3.8이 오늘 27B 덴스 모델로 나올 것 같네. 만약 진짜 그렇게 나오면 이번엔 MoE 오프로딩은 물 건너간 거임. 예전에 Qwen 3.6 35B-A3B 돌릴 때는 RTX 3060에서 70 tok/s 정도 뽑았는데, 덴스 모델 오프로딩은 차원이 다른 문제라 100배는 더 느리거나 그보다 더 느릴 수도 있음.
