Qwen3.6 27B uncensored heretic v2 출시: Native MTP 보존, KLD 0.0021, 거부율 6/100, Safetensors/GGUF/NVFP4 포맷 지원
Qwen3.6 27B uncensored heretic v2 Native MTP Preserved is Out Now With KLD 0.0021, 6/100 Refusals and the Full 15 MTPs Preserved and Retained, Available in Safetensors, GGUFs and NVFP4s formats.
핵심 요약
Qwen3.6 27B 모델의 검열 해제 버전인 heretic v2가 MTP 기능을 온전히 유지한 채 다양한 포맷으로 출시되었습니다.
- MTP 기능 보존 — 15개의 Multi-Token Prediction 레이어를 온전히 유지하여 추론 효율성을 확보함.
- 검열 대폭 제거 — 100회 테스트 중 거부 횟수 6회로 매우 낮은 거부율과 정밀한 KLD 수치를 달성함.
- 다양한 배포 형식 — GGUF, NVFP4 등 로컬 환경에 최적화된 여러 양자화 포맷을 동시에 출시함.
- 기술적 구현 논의 — 검열 해제 모델에서 MTP 수락률을 유지하기 위한 증류 및 최적화 방식이 논의됨.
llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved: https://huggingface.co/llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved
llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-GGUF: https://huggingface.co/llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-GGUF
llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-NVFP4-GGUF: https://huggingface.co/llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-NVFP4-GGUF
llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-NVFP4: https://huggingface.co/llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-NVFP4
llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-NVFP4-MLP-Only: https://huggingface.co/llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-NVFP4-MLP-Only
모든 모델에서 15개의 MTP가 온전히 유지 및 보존되었음을 확인했습니다.
벤치마크 결과도 포함되어 있습니다.
제 모든 모델은 여기서 확인하세요: HuggingFace-LLMFan46
