Qwen3.6 35b-a3b에서 27b로 갈아탔는데 코딩 성능이 훨씬 좋네요!
Switched from Qwen3.6 35b-a3b to Qwen3.6 27b mid coding and it's noticeably better!
핵심 요약
16GB VRAM 환경에서 Qwen3.6 35b-a3b 모델을 쓰다가 27b 모델로 전환 후 코딩 성능과 속도 면에서 더 만족스러운 결과를 얻었습니다.
- 모델 전환 경험 — 35b-a3b 모델보다 27b 모델이 코딩 버그 해결과 속도 면에서 더 뛰어난 성능을 보임.
- 하드웨어 제약 — 16GB VRAM 환경에서 IQ3_M 양자화 모델을 사용하여 컨텍스트 공간을 확보함.
- 코딩 성능 비교 — dense 모델이 MoE 모델보다 압축 효율이 좋아 코딩 작업에 더 적합할 수 있다는 의견이 제시됨.
- 커뮤니티 반응 — 속도보다는 코딩 정확도가 중요하다는 의견과 함께 다양한 모델 추천이 이어짐.
배경 설명을 좀 하자면, 추가 웨이포인트를 배치해서 경로를 바꿀 수 있는 작은 html 타워 디펜스 게임을 만들고 있었어.
내 사양: 32gb ram, 16gb vram 5070 ti. LM Studio에서 AesSedai/Qwen3.6-35B-A3B-GGUF IQ4_XS를 사용 중이야. 이제 one-shot vibe-coding 프롬프트 단계는 졸업했지.
이 게임의 사양은 LM Studio에서 다루기엔 너무 복잡해서 OpenCode를 시도해봤어. 프로젝트가 잘 진행되던 중에 Qwen3.6 27b가 나왔더라고. 당연히 써봐야지. 문제는 VRAM 때문에 Q4 모델을 쓸 수 없어서 mradermacher/Qwen3.6-27B-i1-GGUF의 IQ3_M 모델로 낮춰야 했어.
IQ3_M은 압축이 너무 심하지 않을까 걱정했는데 잘 작동했고, 심지어 Qwen3.6 35b-a3b의 IQ4_XS 버전이 못 찾던 어려운 버그까지 찾아냈어. dense 모델이 MoE 모델보다 압축을 더 잘 견딘다고들 하잖아. 그게 이유일까? 35b-a3b와 27b 버전의 Qwen3.6에 대한 다른 사람들의 경험은 어때?
LM Studio를 사용했을 때,
Qwen3.6 35b-a3b (AesSedai/Qwen3.6-35B-A3B-GGUF IQ4_XS)로는 초당 50-60 토큰이 나왔지만 프롬프트 처리가 가끔 너무 느려졌어.
Qwen3.6 27b (mradermacher/Qwen3.6-27B-i1-GGUF IQ3_M)로는 초당 40 토큰 정도 나왔지만 전반적으로 속도가 일정했어.
16gb vram에서 이 두 모델을 써본 경험이 다들 어때? 27b의 IQ3 모델로 실제로 업무를 보는 사람이 있을까?
아, Waypoint Tower Defense 게임은 완성됐고 htmlbin에서 플레이할 수 있어. 사이트에서는 저장/불러오기가 안 되는 것 같은데, 파일을 다운로드해서 브라우저로 열면 잘 작동할 거야. 독립형 단일 html 게임이야. 지뢰찾기 같은 느낌의 타워 디펜스를 의도했어.
