Qwen3.8-27B Dynamic v3 Unsloth GGUF 모델 출시
Introducing Qwen3.8-27B Dynamic v3 Unsloth GGUFs
핵심 요약
Unsloth 팀이 기존 대비 정확도가 10% 향상된 Qwen3.8-27B Dynamic v3.0 GGUF 모델을 공개했습니다.
- 성능 향상 — Dynamic v3.0 적용으로 동일 크기 대비 정확도 10% 개선됨
- 경량화 모델 — 8GB RAM에서 구동 가능한 1-bit 양자화 모델 제공
- 기술적 특징 — QAT나 QAD 없이 포스트 트레이닝 양자화 방식으로 구현됨
- 업데이트 예고 — Unsloth 데스크톱 버전의 자동 압축 및 외부 API 도구 호출 기능 추가 예정
다들 안녕! 이번에 Qwen3.8-27B GGUF 새로 내놨는데, 같은 크기에 정확도는 10% 더 올렸어. 이번에 새로 나온 Dynamic v3.0 버전을 썼거든.
Unsloth Dynamic V3는 Div-300, KLD 같은 벤치마크에서 다른 것들보다 10% 이상 더 잘 나와.
그리고 정확도 77% 유지하는 1비트 양자화 버전도 같이 풀었어. 8GB 램으로도 돌아감.
몇 시간 전에 우리가 양자화 파일 업데이트한 거 보고 놀란 사람들도 있을 텐데, 뭐 고장 난 거 아니니까 걱정 마. 고칠 것도 없었어(대체 왜 그런 헛소문이 도는지 모르겠네, 완전 지어낸 얘기임). 그냥 더 좋게 만들려고 업데이트한 것뿐이야.
우리는 imatrix 캘리브레이션 데이터셋으로 학습 안 하고, QAT나 QAD도 절대 안 써. 전부 포스트 트레이닝 양자화 방식으로 처리했어. 우리가 쓴 imatrix 파일은 커뮤니티에서 직접 테스트하고 평가해 보라고 다 공개해 놨으니까 마음껏 써봐. 우리 Unsloth 양자화/imatrix 써서 Qwen3.8 파인튜닝 버전이나 변형 모델 많이 만들어주면 좋겠어. 과적합 분석 내용도 읽어볼 수 있으니까 참고하고.
자세한 내용이랑 벤치마크는 여기서 확인해: https://unsloth.ai/docs/basics/dynamic-3.0-ggufs
GGUF: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
다들 즐겁게 써! 오늘 Unsloth Desktop 업데이트도 새로 올라갈 예정이야: https://github.com/unslothai/unsloth
업데이트할 게 진짜 많았는데, 이제 자동 압축 기능도 들어가고 외부 API로 툴 콜링도 가능해질 거야. 기대해.
