r/LocalLLaMA•5개월 전•183•150

Qwen3.6-27B vs 35B, 난 35B가 더 좋은데 왜 다들 27B 얘기만 하지?

Qwen3.6-27B vs 35B, I prefer 35B but more people here post about 27B...

핵심 요약

Qwen3.6 35B와 27B 모델의 성능과 속도를 비교하며, 작성자가 느끼는 35B의 우위와 커뮤니티의 27B 선호 현상에 대해 질문함.

성능 비교 — 35B 모델이 속도와 효율성 면에서 더 뛰어나다고 느낌.
커뮤니티 선호 — 많은 사용자가 27B 모델을 주로 언급하는 이유를 궁금해함.
사용 사례 — 코딩 파이프라인과 인터넷 검색 등 실무적인 작업에 활용 중.
하드웨어 환경 — Mac Studio M4 Max와 M5 Max 환경에서 테스트 진행.

품질 면에서 35B가 더 나은 결과를 보여줬고, 27B보다 훨씬 빠르기도 함. 다들 27B에 대해서만 글을 많이 쓰길래 궁금해서 물어봄. 내가 27B를 잘못 쓰고 있는 건가?

사용 사례는 코딩과 인터넷 조사를 위한 다단계 파이프라인임. Opencode도 조금 사용함. 보통 Opus를 적용하던 모든 사례에 35B를 시도해 봤고, 간단한 프롬프트나 다단계 워크플로우도 마찬가지임. 35B가 항상 비슷하거나 더 나은 성능을 보이면서 속도도 훨씬 빠름.

수정:

35B는 nvfp4 양자화 혹은 가끔 fp8이고, 27B는 fp8 혹은 nvfp4 양자화임.

수정 2:

내 환경은 두 가지임.

집에는 Mac Studio M4 Max 128GB RAM, 직장에는 Mac M5 Max 48GB RAM 사용 중.

원문

커뮤니티 목록

r/LocalLLaMA•5개월 전•183•150

Qwen3.6-27B vs 35B, 난 35B가 더 좋은데 왜 다들 27B 얘기만 하지?

Qwen3.6-27B vs 35B, I prefer 35B but more people here post about 27B...

핵심 요약

Qwen3.6 35B와 27B 모델의 성능과 속도를 비교하며, 작성자가 느끼는 35B의 우위와 커뮤니티의 27B 선호 현상에 대해 질문함.

성능 비교 — 35B 모델이 속도와 효율성 면에서 더 뛰어나다고 느낌.
커뮤니티 선호 — 많은 사용자가 27B 모델을 주로 언급하는 이유를 궁금해함.
사용 사례 — 코딩 파이프라인과 인터넷 검색 등 실무적인 작업에 활용 중.
하드웨어 환경 — Mac Studio M4 Max와 M5 Max 환경에서 테스트 진행.

수정:

35B는 nvfp4 양자화 혹은 가끔 fp8이고, 27B는 fp8 혹은 nvfp4 양자화임.

수정 2:

내 환경은 두 가지임.

집에는 Mac Studio M4 Max 128GB RAM, 직장에는 Mac M5 Max 48GB RAM 사용 중.

주요 댓글

r/localllama

대체로 27B가 지능 면에서 우위라는 평가가 많지만, 35B의 압도적인 속도가 실사용 워크플로우에서 더 큰 효율을 낸다는 의견이 지배적입니다.

141

27B는 토큰당 파라미터를 9배 더 많이 사용해서 벤치마크 결과도 그만큼 더 잘 나옴. 35B가 더 똑똑하다는 게 도저히 이해가 안 감. 훨씬 빠르긴 한데, 내 경험상이나 다른 사람들 의견을 봐도 35B가 더 똑똑하진 않음.

지식의 폭이 넓은 건 확실함. 근데 똑똑하냐고? ㄴㄴ. Qwen3.6 27B 나오기 전까지 3.5 27B보다 35B 쓰는 게 즐거웠음. 속도가 지능보다 더 중요할 때가 많다는 걸 깨달았거든. 두 모델을 VRAM에 동시에 올릴 수 있으면 좋을 텐데.

토큰당 활성 파라미터는 9배 많지만 전체 파라미터는 더 적음. 35B는 모든 토큰에 다 쓰이는 게 아니라는 점이 중요함. 27B가 0~15% 정도 더 똑똑할 순 있는데 9배 차이는 아님. VRAM 16GB인 사람들은 35B를 더 높은 양자화로 돌릴 수 있어서 비슷해짐.

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

27B가 전반적으로 확실히 더 똑똑함. 프로젝트에서 둘 다 테스트해 봤는데 차이가 엄청나진 않음. 비전 파이프라인에서는 27B가 10% 정도 더 잘함. 4배 빠른 속도를 원하면 35B도 충분히 가치 있음.

2배 빠른 속도에 10~20% 성능 저하라고? 이게 기업식으로 말하는 '외향적'이라는 뜻인가?

27B q8은 진짜 미쳤음. 100k 컨텍스트 넘어도 잘 버팀. 지식은 거의 없는데 인터넷 연결하면 프론티어급임. 코딩할 때 48GB VRAM으로 이게 돌아간다는 게 안 믿김. 디버깅할 때 최고임.

인터넷 어떻게 연결함? 난 브레이브 API MCP 쓰는데 더 좋은 방법 있나 궁금함.

사진 찍을 때 최고의 카메라는 자주 쓰는 카메라라고 함. 모델도 똑같음. 너무 느리면 아무리 똑똑해도 안 쓰게 됨. 결국 안 쓰면 똑똑한 답변도 못 얻는 거임.

그거 '최고의 카메라는 지금 네 손에 있는 카메라' 아니었나?

35B가 해결 못 하는 걸 27B가 할 때가 있음. 반대 경우도 있고. 27B가 이해도는 더 높은데 35B가 훨씬 빨라서 결정하기 힘듦. 속도가 진짜 중요함.

35B는 55 t/s, 27B는 11 t/s 나옴. 35B로 계획, 검토, 코딩 다 하고 문제 해결하는 동안 27B는 계획만 짜고 있음. 거의 그 정도 차이임.

원문r/LocalLLaMA