r/LocalLLaMA•5개월 전•54•22

Gemma 4 기반의 창작 특화 모델 'Ortenzya-31B' 출시

gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic is Out Now, A Writing Finetune that Aims to Improve Gemma 4 31B it Writing Quality with More Natural English and Better Prose, Good for Creative Writings, Translations and RPs!

핵심 요약

Gemma 4 31B를 기반으로 자연스러운 영어 문장과 창작 능력을 강화한 언센서드 모델이 공개되었습니다.

모델 특징 — 자연스러운 영어 문장과 창작 글쓰기에 최적화된 Gemma 4 31B 파인튜닝 모델임.
배포 형식 — Safetensors 및 GGUF 포맷으로 제공되며 요청 시 NVFP4와 GPTQ 변환도 지원함.
활용 분야 — 창작 글쓰기, 번역, 역할극(RP) 등 다양한 언어 작업에 적합함.

Safetensors와 GGUF 포맷으로 모두 제공됩니다.

llmfan46/gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic: https://huggingface.co/llmfan46/gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic

llmfan46/gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic-GGUF: https://huggingface.co/llmfan46/gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic-GGUF

요청이 있다면 NVFP4와 GPTQ 버전도 만들 수 있습니다.

제 모든 모델은 여기서 찾을 수 있습니다: HuggingFace-LLMFan46

원문

커뮤니티 목록

r/LocalLLaMA•5개월 전•54•22

Gemma 4 기반의 창작 특화 모델 'Ortenzya-31B' 출시

핵심 요약

Gemma 4 31B를 기반으로 자연스러운 영어 문장과 창작 능력을 강화한 언센서드 모델이 공개되었습니다.

모델 특징 — 자연스러운 영어 문장과 창작 글쓰기에 최적화된 Gemma 4 31B 파인튜닝 모델임.
배포 형식 — Safetensors 및 GGUF 포맷으로 제공되며 요청 시 NVFP4와 GPTQ 변환도 지원함.
활용 분야 — 창작 글쓰기, 번역, 역할극(RP) 등 다양한 언어 작업에 적합함.

Safetensors와 GGUF 포맷으로 모두 제공됩니다.

llmfan46/gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic: https://huggingface.co/llmfan46/gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic

llmfan46/gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic-GGUF: https://huggingface.co/llmfan46/gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic-GGUF

요청이 있다면 NVFP4와 GPTQ 버전도 만들 수 있습니다.

제 모든 모델은 여기서 찾을 수 있습니다: HuggingFace-LLMFan46

주요 댓글

r/localllama

모델의 비전 기능 여부와 LM Studio 사용법에 대한 질문이 주를 이루며, 제작자가 직접 친절하게 가이드를 제공하고 있음.

일단 써볼 건데, 다들 베이스 모델에서 거부(refusal)를 어떻게 당하는 거임? 테스트 스크립트 때문인 건 알겠는데, 실제로는 베이스 Gemma 4에서 거부 당하는 중임? 내 눈엔 그냥 엄청 uncensored 같거든. 근데 문체는 확실히 개선이 필요해 보이니 고맙다.

왜냐면 내가 보기엔 존나게 검열이 안 된 것 같거든.

바닐라 모델 말이야.

섹시한 창작 글이나 롤플레잉 같은 거 할 게 엄청 많지. r/SillyTavernAI 애들한테 물어보면 걔네가 하는 짓거리들 때문에라도 검열 없는 모델이 무조건 필요하다고 할걸. 예를 들어 비주얼 노벨을 하고 싶은데 일본어로만 되어 있다고 치자. 요즘은 그냥 LunaTranslator랑 LM Studio 다운받아서 설치하고 모델 로드한 다음에, LunaTranslator에 LM Studio 로컬 주소만 연결해주면 바로 연동이 돼.

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

그럴듯하네. 좋은 답변이야.

MiniMax-M2.7 스레드에서도 '소프트닝(softening)'에 대해 설명했는데, 여기에도 복사해서 붙여넣어 줄게:

일어날 수 있는 일 중 하나가 '소프트닝'이라는 건데, 이건 딱 잘라 거절하는 게 아니라 언어를 순화하거나 톤을 낮추는 거야. 번역되는 원문을 모르는 사람은 이런 일이 벌어지고 있다는 걸 전혀 눈치채지 못하지.

소프트닝은 어떤 면에서는 모델이 아예 번역 요청을 거부하거나 '나는 할 수 없어'라고 말하는 하드 리퓨절보다 더 악질이야.

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

이 이미지 프롬프트가 뭐였을지 궁금하네. 잠깐, 맞춰볼게.

이 모델한테 직접 물어보면 되지 않을까? 사실 궁금한 게 있는데, abliteration이 비전 인코더에도 영향을 줘? Gemma 4(기본 양자화 버전, 이 모델 말고)로 이미지를 묘사하게 해서 Z-Image에 넣은 결과는 여기 있어: [이미지]

뭐가 창작 글쓰기에 좋게 만드는 거야? 증류된 창작 글쓰기 작업으로 SFT(파인튜닝)한 거야?

궁금해서 물어보는 건데, 이 모델 비전 기능 있나요?

네, 당연하죠.

이런 거 처음 써보는 사람인데, LM Studio랑 호환되나요? 어떻게 써야 하는지, 모델을 특정 폴더에 넣어야 하는지 궁금해요.

LM Studio 다운받아서 설치하고, 왼쪽 검색 탭에서 'gemma-4-Ortenzya-The-Creative-Wordsmith-31B-it-uncensored-heretic-GGUF' 검색하세요. 퀀트 목록이랑 용량 확인해서 본인 하드웨어에 맞는 거 고르고 다운로드 누르세요. 다 받으면 모델 로드해서 채팅 시작하면 됩니다.

원문r/LocalLLaMA