r/LocalLLaMA•4개월 전•134•27

LatitudeGames/Equinox-31B · 허깅페이스

LatitudeGames/Equinox-31B · Hugging Face

핵심 요약

LatitudeGames에서 Gemma 31B를 기반으로 튜닝한 새로운 모델 Equinox-31B를 공개했습니다.

모델 특징 — Wayfarer 2의 모험 요소와 Hearthfire의 스토리텔링을 결합해 균형 잡힌 성능을 제공함.
사용 방법 — 허깅페이스에서 GGUF 모델을 다운로드하거나 AI Dungeon 웹사이트에서 구독 후 이용 가능함.
개발 방향 — 향후 유사한 모델을 지속적으로 개선하고 오픈소스로 공개할 예정임.

LatitudeGames에서 새로운 모델인 Gemma 31B 파인튜닝 버전을 공개했습니다.

https://huggingface.co/LatitudeGames/Equinox-31B-GGUF

Equinox라는 이름은 극단적인 요소들 사이의 균형에서 따왔습니다. Wayfarer 2의 가차 없는 다크 어드벤처와 Hearthfire의 잔잔한 일상물 스토리텔링을 균형 있게 학습시킨 Equinox는 위험한 던전 탐험과 촛불 아래 나누는 대화 모두에 최적화되어 있습니다.

이 모델을 쉽게 사용해보고 싶다면 https://aidungeon.com에서 이용할 수 있습니다. 단, Equinox를 사용하려면 구독이 필요하다는 점을 참고하세요.

저희는 앞으로도 유사한 모델을 지속적으로 개선하고 오픈소스로 공개할 계획이니, 모델 성능을 향상할 수 있는 모든 피드백을 공유해주시면 감사하겠습니다. 아래에 Equinox가 어떻게 만들어졌는지에 대한 자세한 내용을 공유합니다.

원문

커뮤니티 목록

r/LocalLLaMA•4개월 전•134•27

LatitudeGames/Equinox-31B · 허깅페이스

LatitudeGames/Equinox-31B · Hugging Face

핵심 요약

LatitudeGames에서 Gemma 31B를 기반으로 튜닝한 새로운 모델 Equinox-31B를 공개했습니다.

모델 특징 — Wayfarer 2의 모험 요소와 Hearthfire의 스토리텔링을 결합해 균형 잡힌 성능을 제공함.
사용 방법 — 허깅페이스에서 GGUF 모델을 다운로드하거나 AI Dungeon 웹사이트에서 구독 후 이용 가능함.
개발 방향 — 향후 유사한 모델을 지속적으로 개선하고 오픈소스로 공개할 예정임.

LatitudeGames에서 새로운 모델인 Gemma 31B 파인튜닝 버전을 공개했습니다.

https://huggingface.co/LatitudeGames/Equinox-31B-GGUF

이 모델을 쉽게 사용해보고 싶다면 https://aidungeon.com에서 이용할 수 있습니다. 단, Equinox를 사용하려면 구독이 필요하다는 점을 참고하세요.

주요 댓글

r/localllama

LLM 기술의 발전으로 과거 고사양 하드웨어가 필요했던 70B급 모델 대신, 이제는 31B 모델로도 충분한 창작 성능을 누릴 수 있게 된 점에 대해 긍정적인 반응을 보이고 있습니다.

이 모델을 쉽게 '체험'해보고 싶다면 https://aidungeon.com 에서 가능합니다. 참고로 Equinox는 구독이 있어야 사용할 수 있습니다. 우리가 생각하는 '체험'의 정의가 같은 건지 잘 모르겠네.

신용카드 써서 시도해보면 될 듯.

시도해보라니, 모델을 그냥 로컬에서 돌리면 되잖아. IQ4_XS도 나왔네, 개꿀! 고맙다! AI Dungeon의 Equinox는 구독이 필요하거든.

처음엔 또 "우리가 모델을 모든 면에서 개선했는데 증거는 안 보여줌" 식의 파인튜닝인 줄 알고 비추 박았음. 이런 게 진짜 파인튜닝이지, 가짜 Opus 추론 같은 거 말고.

내가 못 보는 벤치마크라도 보고 있는 거임? 모델 카드에는 아무것도 없던데.

뭐라고? 창작 글쓰기는 완전히 주관적인 건데 그걸 어떻게 벤치마크함?

진짜 2018~2019년쯤에 내가 LLM 입문했던 방식 그대로네.

Wayfarer 좋게 썼는데, Gemma도 개선됐길 바람.

흥미로운 건 2년 전만 해도 "창작 글쓰기 최강"은 LLaMA 70B였는데, 이제는 Gemma 31B라는 거야. 예전엔 일반 사용자가 쓰기 힘들었던(70B Q4는 여전히 VRAM 35GB 필요) 모델이 이제는 훨씬 접근하기 쉬워졌지. 게다가 지난 2년 동안 소프트웨어도 발전해서 같은 하드웨어에서도 훨씬 빨라졌고.

순수 글쓰기 능력은 여전히 Llama 70B가 최고지. 근데 컨텍스트가 별로라 안 쓴 지 좀 돼서, 콩깍지가 씌었을 수도 있겠다. 조만간 다시 한번 확인해 봐야겠어.

다들 안녕, 주제에서 좀 벗어난 질문인데, 창작 글쓰기용으로 Gemma 4 E4B나 26B A4B 파인튜닝 모델 나온 거 있을까?

허깅페이스에 ZeroFata가 올린 거 하나 있어. zerofata/G4-MeroMero-26B-A4B

원문r/LocalLLaMA