검열 없는 다중 모델 릴리스: LongCat-Flash-Lite-Sparse, Qwen3.8-27B, Qwen3.5-122B 등 GGUF 형식으로 공개!
Uncensored Multi-Model Releases, LongCat-Flash-Lite-Sparse with MTPs and LSAs, Qwen3.8-27B with MTPs, Qwen3.5-122B-A10B with MTPs, Qwen3-Coder-Next and Laguna-S2.1 with Vision, All Available in GGUF Format! Bonus: Links to my llama.cpp Fork for LongCat-Flash-Lite Support and J-Wash Enhanced Fork!
핵심 요약
다양한 검열 없는 모델과 향상된 J-Wash 도구를 GGUF 형식으로 배포하며 커뮤니티 기여를 이어가고 있습니다.
- 모델 릴리스 — LongCat-Flash-Lite-Sparse, Qwen3.8-27B, Qwen3.5-122B 등 다양한 모델 공개됨
- 기술적 지원 — LongCat-Flash-Lite-Sparse를 위한 llama.cpp 포크 및 Heretic 지원 추가됨
- J-Wash 업데이트 — MoE 모델 지원 및 UI 개선을 포함한 향상된 버전 배포됨
- 커뮤니티 요청 — Qwen3-Coder-Next 등 사용자 요청 모델 작업 완료됨
huggingface.co
원문 사이트로 이동
지난 한 달 동안 이 모델들 다 가져오려고 진짜 개고생했다. 그중에서도 LongCat-Flash-Lite-Sparse가 제일 빡셌는데, 이건 진짜 할 일이 산더미였음. 일단 Heretic 지원부터 밑바닥부터 새로 짜야 했고, llama.cpp에도 지원 추가하느라 시간도 엄청 잡아먹고 진짜 힘들었다! 몇 주 전에 냈던 오리지널 LongCat-Flash-Lite보다 작업하기 훨씬 까다로웠음. 여전히 오리지널이랑 똑같은 69B-A3B 모델이긴 한데, LongCat-Flash-Lite-Sparse는 이제 다음 기능들을 지원함:
- Sparse attention (LongCat-Flash-Lite의 dense attention 대비)
- 1M Context length (LongCat-Flash-Lite의 256k 대비)
어쨌든 LongCat-Flash-Lite-Sparse는 메인라인/업스트림 llama.cpp에서 아예 지원을 안 하니까, GGUF 쓰려면 내 GitHub 포크를 받아야 함. 링크는 여기:
https://github.com/erm14254/llama.cpp-minimax-m3-combined/tree/claude/longcat-win11
llama-server.exe로 모델 로드해서 llama-ui로 돌리면 된다.
버전은 두 가지임. Uncensored Heretic (9/100 거부, 0.0157 KLD)이랑 Ultra Uncensored HJeretic (4/100 거부, 0.0779 KLD)인데, 둘 다 MTP랑 LSA 포함돼 있음!
모델 링크는 여기:
Uncensored Heretic GGUFs: https://huggingface.co/llmfan46/LongCat-Flash-Lite-Sparse-Uncensored-Heretic-Native-MTP-And-LSA-Preserved-GGUF
Ultra Uncensored Heretic GGUFs: https://huggingface.co/llmfan46/LongCat-Flash-Lite-Sparse-Ultra-Uncensored-Heretic-Native-MTP-And-LSA-Preserved-GGUF
----------------------------------------
LongCat은 여기까지고, 다음은 Qwen3.8-27B Ultra Uncensored Heretic with MTPs임. 3/100 거부, 0.0244 KLD고 링크는 아래에 있음:
Safetensors: https://huggingface.co/llmfan46/Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved
GGUFs: https://huggingface.co/llmfan46/Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved-GGUF
