r/LocalLLaMA•2개월 전•221•82

원시인 버전 Qwen3.6 27B

A caveman qwen3.6 27B

핵심 요약

토큰 사용량을 90% 줄였다고 주장하는 'Grug' 모델에 대한 커뮤니티의 관심과 초기 테스트 후기.

모델 성능 논란 — 벤치마크 수치는 높지만 실제 추론 능력은 저하됨
토큰 효율성 — 기존 모델 대비 90% 이상의 토큰 절감을 목표로 함
원시인 컨셉 — 모델이 원시인처럼 말하고 생각하도록 튜닝됨
실제 사용 후기 — 복잡한 추론이 단답형으로 축소되어 성능이 아쉽다는 평가

방금 허깅페이스에서 이거 봤음: https://huggingface.co/ProCreations/grug-27b

벤치마크 주장으로는 기존 Qwen3.6 27B보다 꽤 낫고 필요한 토큰 양을 90% 이상 줄였다고 함. 사실이라면 내 구형 노트북에서 3tps로 돌아가던 27B가 생각하는 부분에서는 30tps처럼 느껴질 듯.

아직 테스트는 못 해봄.

원문

커뮤니티 목록

r/LocalLLaMA•2개월 전•221•82

원시인 버전 Qwen3.6 27B

A caveman qwen3.6 27B

핵심 요약

토큰 사용량을 90% 줄였다고 주장하는 'Grug' 모델에 대한 커뮤니티의 관심과 초기 테스트 후기.

모델 성능 논란 — 벤치마크 수치는 높지만 실제 추론 능력은 저하됨
토큰 효율성 — 기존 모델 대비 90% 이상의 토큰 절감을 목표로 함
원시인 컨셉 — 모델이 원시인처럼 말하고 생각하도록 튜닝됨
실제 사용 후기 — 복잡한 추론이 단답형으로 축소되어 성능이 아쉽다는 평가

방금 허깅페이스에서 이거 봤음: https://huggingface.co/ProCreations/grug-27b

아직 테스트는 못 해봄.

주요 댓글

r/localllama

모델의 효율성에 대한 기대와 함께, 실제 성능 저하를 우려하는 의견이 공존하며 원시인 말투를 따라 하는 유머러스한 반응이 주를 이룹니다.

105

모델 카드 진짜 웃기네

그럭 이제 똑똑해짐. 27B 뇌 가짐.

어떻게 돌림?

GGUF 버전

https://huggingface.co/ProCreations/grug-27b-gguf

와 grug 모드 진짜 작동하긴 하네

그럭은 문법 찌꺼기를 불에 던져버리고, 뇌의 알맹이만 남긴다. 대답은 평범한 영어로 나오고, 품질은 그대로다. 그럭의 내면의 목소리만 그럭일 뿐이다. 더 할 말 없음

모델 카드 개웃기네*

GGUF는 여기 있음: https://huggingface.co/ProCreations/grug-27b-gguf

방금 다운로드 시작함. 전반적으로 원시인 접근 방식에 긍정적이라 기대가 큼.

수정: 첫 몇 번 시도는 별로임. 원시인처럼 말하긴 하는데, 생각하는 것도 원시인처럼 함. 순수 Qwen은 어려운 작업에 대해 다각도로 생각하는데, Grug 모델은 생각을 거의 안 함. 그래서 다중 문단, 다각도 추론이 단어 몇 개 섞인 반쪽짜리 문장으로 뭉개짐. 나는...

그래, 예상했던 대로네. 이런 식의 파인튜닝 모델들은 항상 거창한 주장을 하지만, 결국 벤치마크 점수 올리기에만 급급한 결과임. SFT 기반 파인튜닝은 Qwen3.6처럼 이미 잘 튜닝된 모델을 오히려 퇴화시킬 뿐임. 성능을 개선할 유일한 방법은 느리고 복잡한 RL 파인튜닝뿐이지.

django 세트에서 swe-verified 첫 100개 태스크 돌려봄.