Unsloth에서 제공하는 Gemma 4 QAT GGUF

핵심 요약

Unsloth가 Gemma 4 모델의 QAT GGUF 버전을 공개하며 향상된 정확도와 최적화된 크기를 강조했습니다.

• 모델 공개 — Unsloth가 Gemma 4 QAT GGUF 컬렉션을 허깅페이스에 배포함
• 기술 가이드 — QAT 적용 방식과 이점을 설명하는 상세 문서 제공
• 성능 향상 — 기존 Q4_0 양자화 대비 훨씬 낮은 KLD와 작은 모델 크기 달성
• 커뮤니티 반응 — Qwen 모델의 차기작을 기다리는 의견과 양자화 효율성에 대한 토론 진행