Qwen3.6-27B Uncensored Aggressive 모델이 K_P 퀀트와 함께 출시되었습니다!
Qwen3.6-27B Uncensored Aggressive is out with K_P quants!
핵심 요약
Qwen3.6-27B 기반의 검열 없는 모델이 K_P 퀀트 형식으로 공개되었습니다.
- 모델 특징 — 검열을 완전히 제거한 27B dense 모델로, 프롬프트 민감도가 다소 높음.
- K_P 퀀트 — 모델별 최적화 프로파일을 적용하여 품질 손실을 최소화한 커스텀 퀀트 방식.
- 기술 사양 — 262K 컨텍스트 지원 및 텍스트/이미지/비디오를 처리하는 멀티모달 모델.
- 사용 권장사항 — 생각하기(thinking) 기능을 끄려면 kwarg 설정을 사용해야 하며, 샘플링 파라미터 최적화가 필요함.
35B-A3B 드롭의 dense 버전이 나왔습니다. Qwen3.6 27B Uncensored Aggressive가 출시되었습니다!
Aggressive = 거부 없음; 성격 변경이나 수정 같은 건 전혀 없습니다. Qwen의 원본 릴리스를 완전히 검열 해제한 버전입니다.
https://huggingface.co/HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive
0/465 거부*. 기능 손실 없이 완전히 잠금 해제되었습니다.
제 자체 테스트 결과: 문제없음. 루핑이나 성능 저하 없이 모든 것이 예상대로 작동합니다.
35B-A3B와 비교했을 때 한 가지 눈에 띄는 점은, 이 모델이 프롬프트 명확성에 조금 더 민감하다는 것입니다. 모호하거나 불충분하게 지정된 프롬프트는 표류할 수 있으니 형식, 제약 조건, 범위 등을 최대한 명확히 기술하면 궤도를 유지합니다. 참고하셔서 최대한 활용하시기 바랍니다. 사회적 상호작용을 처리하는 방식을 보면 '코딩/STEM 우선' 모델인 것 같습니다.
"생각하기(thinking)" 기능을 비활성화하려면 jinja 템플릿을 편집하거나 kwarg {"enable_thinking": false}를 사용해야 합니다. 참고로 Qwen3.6은 Qwen3에 있던 /think 및 /no_think 소프트 스위치를 지원하지 않으므로 kwarg를 사용하는 것이 방법입니다.
포함된 내용:
- Q8_K_P, Q6_K_P, Q5_K_P, Q4_K_P, IQ4_XS, Q3_K_P, IQ3_M, IQ3_XS, Q2_K_P, IQ2_M
- 비전 지원을 위한 mmproj
- 모든 퀀트는 imatrix로 생성됨
K_P 퀀트 요약 (MoE 릴리스를 놓친 분들을 위해): 모델별 분석을 사용하여 가장 중요한 부분의 품질을 보존하는 커스텀 퀀트입니다. 각 모델은 자체적인 최적화 프로파일을 가집니다. 사실상 파일 크기는 5-15% 더 크면서 1-2단계 높은 품질 향상을 제공합니다. llama.cpp, LM Studio 등 GGUF를 읽는 모든 것과 완벽하게 호환됩니다 (Ollama는 설정이 더 까다로울 수 있으니 주의하세요).
빠른 사양:
- 27B dense
- 64 레이어 — 16 × (3 × DeltaNet + 1 × Gated Attention) 레이아웃
- 48 선형 어텐션 + 16 전체 소프트맥스 어텐션 (3:1 비율, MoE와 동일)
- 262K 컨텍스트 (기본, YaRN으로 ~1M까지 확장 가능하지만 주의 — llama.cpp의 YaRN은 정적이라 짧은 컨텍스트 성능을 저하시킬 수 있음)
- 멀티모달 (텍스트 + 이미지 + 비디오)
제가 사용 중인 샘플링 파라미터:
temp=1.0, top_k=20, top_p=0.95, min_p=0, presence_penalty=0, repetition_penalty=1.0
(Qwen 3.6은 권장 사항을 다음과 같이 업데이트했습니다: 생각하기 일반 모드에서는 presence_penalty가 3.5 버전처럼 1.5가 아니라 0.0입니다. 생각하기 비활성화 모드에서는 여전히 1.5를 권장합니다. 전체 설정과 제 테스트 결과는 HF README에 있습니다.)
참고: llama.cpp에서 --jinja 플래그를 사용하세요. K_P 퀀트는 LM Studio의 퀀트 열에서 "?"로 표시될 수 있습니다. 이는 순전히 시각적인 문제이며 모델은 정상적으로 로드되고 실행됩니다.
HF의 하드웨어 호환성 위젯도 K_P를 인식하지 못하므로 "View +X variants"를 클릭하거나 Files and versions로 이동하여 모든 다운로드를 확인하세요.
