r/LocalLLaMA•4개월 전•225•141

와, 27B 모델 진짜 물건이네

Okay 27B made me a believer

핵심 요약

Qwen3.6 27B 모델의 뛰어난 코딩 능력에 감탄한 사용자의 생생한 후기.

모델 성능 — Qwen3.6 27B가 복잡한 게임 개발 작업을 한 번에 완벽하게 처리함.
개발 효율 — API 연동부터 게임 로직까지 완성도 높은 코드를 생성해냄.
최적화 논의 — MTP(Speculative Decoding)를 활용한 속도 개선 방안이 활발히 공유됨.
모델 대중화 — 로컬 LLM 입문자들에게 27B 모델이 큰 인기를 끌고 있음.

예전엔 이 모델 별로라고 생각했는데, 지금은 완전히 반했음. 왜 다들 열광하는지 이제야 알겠네.

HTML5 게임 콘솔을 만들고 있는데, Qwen3.6 27B가 게임 기능을 구현할 수 있을지 테스트해 봄 (게임 저장, 콘솔 API 핸들링, 통계 추적, 메타데이터 등).

API 작동 방식, 게임패드 컨트롤, 타입스크립트 셰이더 파일 3개를 주고 "이 콘솔용 브레이크아웃 게임을 만들어줘, 작업 디렉토리에 참고 파일이 있어"라고 간단히 프롬프트를 던짐.

첫 결과물부터 바로 플레이 가능했고, 컨트롤도 직관적이었음. 그래픽 스타일도 독특하고 적절했으며, 사운드와 콘솔 API까지 완벽하게 작동함. 그냥 흔한 브레이크아웃 복제품이 아니라 디테일이 살아있었음. LLM들이 보여주는 최소한의 수준을 훨씬 뛰어넘음. 전혀 대충 만든 느낌이 아니었음.

간단한 테스트지만 Opus 정도나 할 수 있을 법한 작업이었음. 딱히 흠잡을 데 없이 게임 전체가 한 번에 완성됐고, 전체적인 흐름에 고민이 들어간 게 느껴짐. 커스터마이징이랑 버그 하나만 수정하니까 바로 완성형이 됐음. 이게 Opencode를 쓴 27B 모델이라니.

한마디로 '일관성'이 있었음. 이제 Nvidia 카드를 샀어야 했는데 Strix Halo를 산 게 후회됨, 속도가 영 별로라서. 3.7 35B A3B 모델도 이런 마법을 보여줄 수 있을지 기대됨.

원문

커뮤니티 목록

r/LocalLLaMA•4개월 전•225•141

와, 27B 모델 진짜 물건이네

Okay 27B made me a believer

핵심 요약

Qwen3.6 27B 모델의 뛰어난 코딩 능력에 감탄한 사용자의 생생한 후기.

모델 성능 — Qwen3.6 27B가 복잡한 게임 개발 작업을 한 번에 완벽하게 처리함.
개발 효율 — API 연동부터 게임 로직까지 완성도 높은 코드를 생성해냄.
최적화 논의 — MTP(Speculative Decoding)를 활용한 속도 개선 방안이 활발히 공유됨.
모델 대중화 — 로컬 LLM 입문자들에게 27B 모델이 큰 인기를 끌고 있음.

예전엔 이 모델 별로라고 생각했는데, 지금은 완전히 반했음. 왜 다들 열광하는지 이제야 알겠네.

HTML5 게임 콘솔을 만들고 있는데, Qwen3.6 27B가 게임 기능을 구현할 수 있을지 테스트해 봄 (게임 저장, 콘솔 API 핸들링, 통계 추적, 메타데이터 등).

주요 댓글

r/localllama

사용자들은 Qwen3.6 27B 모델이 소비자용 장비에서도 뛰어난 성능을 발휘하며, 특히 덩치 큰 모델보다 효율적인 정보 처리 능력을 보여준다는 점에 크게 만족하고 있습니다.

속도 더 올리려면 MTP(추측 디코딩) 써봐, 2나 3 정도면 충분할 거야.

MTP는 너무 과하게 설정하면 오히려 역효과 나기 쉽더라. 가끔은 1이 2나 3보다 훨씬 빠름.

진짜 케바케임. 코드 짤 때는 5로 설정해도 수락률 95% 이상 나오는데, 추론하거나 자유 형식으로 글 쓸 때는 수락률이 확 떨어지더라고. 참고로 이 결과 때문에 MTP에서 더 뽑아낼 최적화 여지가 있을 것 같다는 생각이 들긴 하는데, 아직 깊게 파보진 않았음.

내 경험상 3 이상은 아무 효과 없거나 오히려 더 안 좋아지더라. 근데 난 예전 mtp-clean 브랜치 썼을 때 얘기고, master(llamacpp)에 머지된 후엔 안 써봄.

-12

MTP는 정확도에 전혀 영향 안 줌. 속도에만 영향 있지.

ㄹㅇㅋㅋ 근데 아무도 아니라고 한 적 없는데.

최소 draft probability를 설정해 봐. 0.6 정도로만 해도 2나 3은 거의 항상 성공할 거야.

MTP는 VRAM 적은 시스템에서 어때? 나 지금 8GB VRAM 6600XT에 32GB DDR4 쓰고 있는데, 겨우 돌아가는 수준이라... 이런 특수한 상황에서도 도움 될지 모르겠네.

27B 모델을 지난 2~3주 동안 집중적으로 써봤는데, 몇 가지 관찰한 게 있음. 1) 지능 면에서는 64K 컨텍스트 미만이 최고임. 긴 호흡의 에이전트 작업에서 컨텍스트를 꽉 채우면 어떻게든 돌아가긴 하는데, 64K 넘어가면 IQ가 눈에 띄게 떨어지고 128K 넘어가면 거의 맛이 감. 에이전트한테 "지금까지 배운 거 다 요약해서 .md 파일로 만들어"라고 시키고, 세션 닫았다가 다시 열어서 "그 파일 읽어"라고 하는 게 정보 유지하는 핵심임.

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

너무 유명하고 좋아서 QWEN 언급조차 안 했나 보네. 나도 고민 중인데 확실히 고려해 볼 만한 사실인 듯.

이 모델이 로컬 LLM을 대중화시킨 거 다들 느낌? 너무 유명해져서 세상에서 제일 좋은 로컬 LLM이라고들 하던데. 아마 더 큰 모델이 있는 걸 모르는 뉴비들이겠지?

더 큰 모델을 로컬에서 돌리려면 엄청 비싼 장비가 필요한데, Qwen3.6 27B는 소비자용 그래픽카드에도 들어가거든(물론 양자화해야 하지만). 진짜 훌륭한 모델이라 사람들이 열광하는 것도 이해가 가.

Qwen 27B는 우리 벤치마크에서 워낙 독보적이라 방법론 전체를 재검토해야 했을 정도임. 대략 GPT 5.2나 Sonnet 4.5랑 동급으로 보고 있음. 자기 체급보다 훨씬 뛰어난 성능을 보여주는데, 컨텍스트 사이즈가 커지면 좀 힘들어하긴 함. 뭐 이건 이 정도 사이즈 모델이면 다 겪는 문제고 파라미터 수의 태생적 한계인 듯. 데이터는 https://gertlabs.com/rankings 여기 있음.

원문r/LocalLLaMA