r/LocalLLaMA•약 2개월 전•87•31논쟁

커스텀 Llama.cpp 빌드(RTX 5080)에서 Qwen3.6 35B(2분) vs Muse Glimmer 30B(4분) 비교

Qwen3.6 35B (2 min) vs Muse Glimmer 30B (4 min) on custom Llama.cpp build (RTX 5080)

핵심 요약

Qwen3.6 35B와 Muse Glimmer 30B의 성능 및 창의성 비교 테스트 결과입니다.

모델 비교 — Qwen3.6은 창의적이고 복잡한 작업에 강점이 있고, Muse Glimmer는 정확성과 신뢰성이 높음.
빌드 환경 — RTX 5080 환경에서 최신 Llama.cpp 및 CUDA 13.1을 사용하여 벤치마크 수행함.
사용자 반응 — Muse Glimmer의 신뢰성을 높게 평가하는 의견과 Qwen 27B와의 비교가 적절하다는 지적이 공존함.
오픈 소스 — Muse Glimmer는 Apache 2.0 라이선스로 완전 오픈 소스라는 점이 주목받음.

커스텀 Llama.cpp 빌드(RTX 5080)에서 Qwen3.6 35B(2분) vs Muse Glimmer 30B(4분) 비교 이미지 1

영상 보기

Muse Glimmer 30B는 훨씬 더 정확하고 신뢰할 수 있다고 느껴지며, 거의 실수를 하거나 규칙을 어기는 일이 없습니다. 하지만 디자인 면에서는 창의적인 깊이와 풍부함이 부족합니다.

반면 Qwen3.6 35B는 가끔 더 많은 실수나 환각을 일으키는 경향이 있지만, 창의적인 결과물은 더 뛰어납니다. 훨씬 더 풍부하고 복잡한 복셀(voxel) 세계를 생성하며 더 높은 디자인 품질을 제공합니다.

LLama.cpp 빌드 출처:

-   **Base:** llama.cpp upstream (merge 4445f8d, build 661)
-   **CUDA Toolkit 13.1** + MSVC 19.44 + `sm_120a-real` (native Blackwell PTX)
-   **Flags:** `GGML_CUDA=ON`, `GGML_CUDA_FA=ON`, `GGML_CUDA_FA_ALL_QUANTS=ON`, `GGML_CUDA_GRAPHS=ON`, `GGML_NATIVE=OFF`
-   **License:** MIT (upstream llama.cpp)

Qwen3.6이 여전히 이 분야의 독보적인 왕이라고 생각하시나요?

원문

커뮤니티 목록

r/LocalLLaMA•약 2개월 전•87•31논쟁

커스텀 Llama.cpp 빌드(RTX 5080)에서 Qwen3.6 35B(2분) vs Muse Glimmer 30B(4분) 비교

Qwen3.6 35B (2 min) vs Muse Glimmer 30B (4 min) on custom Llama.cpp build (RTX 5080)

핵심 요약

Qwen3.6 35B와 Muse Glimmer 30B의 성능 및 창의성 비교 테스트 결과입니다.

모델 비교 — Qwen3.6은 창의적이고 복잡한 작업에 강점이 있고, Muse Glimmer는 정확성과 신뢰성이 높음.
빌드 환경 — RTX 5080 환경에서 최신 Llama.cpp 및 CUDA 13.1을 사용하여 벤치마크 수행함.
사용자 반응 — Muse Glimmer의 신뢰성을 높게 평가하는 의견과 Qwen 27B와의 비교가 적절하다는 지적이 공존함.
오픈 소스 — Muse Glimmer는 Apache 2.0 라이선스로 완전 오픈 소스라는 점이 주목받음.

영상 보기

LLama.cpp 빌드 출처:

-   **Base:** llama.cpp upstream (merge 4445f8d, build 661)
-   **CUDA Toolkit 13.1** + MSVC 19.44 + `sm_120a-real` (native Blackwell PTX)
-   **Flags:** `GGML_CUDA=ON`, `GGML_CUDA_FA=ON`, `GGML_CUDA_FA_ALL_QUANTS=ON`, `GGML_CUDA_GRAPHS=ON`, `GGML_NATIVE=OFF`
-   **License:** MIT (upstream llama.cpp)

Qwen3.6이 여전히 이 분야의 독보적인 왕이라고 생각하시나요?

주요 댓글

r/localllama

사용자들은 Muse Glimmer의 신뢰성과 오픈 소스 정책을 긍정적으로 평가하면서도, Qwen 27b와 같은 dense 모델과의 비교가 더 적절하다는 의견을 제시하며 성능에 대해 엇갈린 반응을 보이고 있습니다.

둘 다 좋고 Gemma도 좋아. Muse Glimmer는 내 모국어(우크라이나어)에서 Gemma 4를 이기는데, 이건 예상치 못한 결과였어. Gemma 4 31B도 이 부분에서 아주 잘하지만 가끔 이상한 걸 써내거든. Glimmer에선 그런 일이 없었어. Gemma가 지식은 좀 더 많은 것 같아.

Muse는 툴 콜링도 잘해. GPT-OSS 같은 느낌이야. 신뢰할 수 있는 모델이지. 사고 방식도 비슷하고("우리"라는 표현을 쓰는 편집자 스타일) 말이 덜 장황해.

Muse Glimmer는 계속 쓸 만한 모델이야.

나도 다국어 사용자임!! Muse Glimmer를 다른 언어로도 테스트해보고 Gemma 4보다 나은지 확인해봐야겠네. 예를 들어, Gemma(혹은 Gemini 같은 다른 구글 모델들)가 생성하는 도중에 대부분은 한 언어로 출력하다가 갑자기 중간에 뜬금없이 아랍어나 중국어 단어를 섞어버리는 현상을 겪어본 적 있음? 내가 확인해본 바로는(구글 번역기 돌린 거라 확실하진 않지만) 그 단어들이 문맥상 관련은 있는 것 같더라고. Qwen도 그럴 것 같긴 한데…

Qwen은 나한테도 그러더라. 내 모국어에서는 영 별로임. 모델이 학습 과정에서 해당 언어 데이터를 충분히 못 봤을 때(소위 말하는 저자원 언어) 자주 발생하는 현상인 것 같음. 예를 들어 Laguna S 2.1이나 Nemotron 같은 모델들이 나한테는 그런 짓을 많이 하더라고. 구글 모델들은 안 그러던데. 사실 우크라이나어 처리 능력은 구글 모델들이 최고 수준임. 한 6~7개월 전까지만 해도 Gemma가 대부분의 클라우드 모델보다 나았고 Gemini 정도만 비빌 수 있었는데, 이제는 다른 모델들도 많이 따라잡은 듯.

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

Qwen3.6 35b/27b 써봤어?

당연히 써봤지(아까 썼듯이). 그것들도 좋긴 한데 코드 생성에 특화된 것 같아. 가지고는 있는데 Qwen 35B는 에이전트 작업엔 좋지만 우크라이나어는 잘 못해서 모든 작업에 전적으로 쓸 수는 없어.

-1

그럼 중간에 괜찮은 번역 모델 하나 끼워 넣으면 되지. 문제 해결.

굳이 왜 그래? 작업에 딱 맞는 모델을 골라 쓰면 그만인데.

dense 모델이랑 MoE 모델을 iq3에서 벤치마킹하는 건 별로 좋은 비교가 아냐. 왜 27b로 테스트 안 해? 그리고 이런 벤치마크는 너무 니치해서 99%의 사람들이 하는 작업이랑은 거리가 멀어. Qwen3.6 27b는 내가 직접 벤치마크해본 결과 Glimmer를 완전히 압살했어.

맞음, 좀 불공평하긴 한데 다음번 비교 때는 Qwen3.6 27B랑 Nemotron도 추가해 볼게.

지금 사과랑 오렌지를 비교하고 있네. Qwen3.6-35B-A3B는 MoE 모델이라고. 당연히 비슷한 크기의 dense 모델보다 지능이 떨어질 수밖에 없지. Qwen3.6-27B랑 비교해 봐!

비교 방식이랑 명칭 때문에 헷갈리네. 35b는 a3b MoE인데, Muse 30b도 MoE 모델이야? 아니면 dense 모델이야? 만약 dense라면 성능이 훨씬 더 좋아야 하는 거 아냐? Muse가 MoE인지 아닌지 궁금해서 물어보는 거야.

Muse는 덴스 모델이라서 이건 좀 어이없는 비교임. 사과랑 오렌지를 비교하는 격이지. Qwen 3.6 27B 덴스 모델이랑 비교해 봐.

Muse가 꽤 괜찮아 보이고 몇몇 벤치마크에선 Qwen 3.6-27B를 이기기도 하던데, 내가 Qwen 빠라서가 아니라 그냥 이 비교 자체가 멍청하다고 생각함.

-1

원문r/LocalLLaMA