r/LocalLLaMA•4개월 전•322•85

[신규 모델] Supra-Title-0.3B 출시!

[NEW MODEL] Supra-Title-0.3B Just released!

핵심 요약

채팅 대화 제목 생성에 특화된 350M 경량 모델 Supra-Title이 출시되었습니다.

특화 모델 — 채팅 대화 제목 생성만을 위해 설계된 350M 파라미터 모델임
GGUF 지원 — 모든 하드웨어에서 빠르게 실행 가능한 GGUF 형식을 지원함
간편한 사용 — 시스템 프롬프트 없이 사용자 메시지만으로 제목 생성이 가능함
실험적 출시 — 현재 SFT 데이터셋 확장 및 선호도 최적화를 진행 중임

Supra Title 출시! 🦅

LFM2.5-350M 기반으로 채팅 대화 제목 생성을 위해 특별히 제작된 350M 모델, **Supra Title (실험 버전)**을 방금 출시했습니다.

https://huggingface.co/SupraLabs/Supra-Title-350M-exp-GGUF

https://huggingface.co/SupraLabs

대부분의 플랫폼은 대화 제목을 짓기 위해 거대한 범용 모델을 사용합니다. Supra Title은 오직 그 기능만 수행하며, GGUF 형식으로 어떤 하드웨어에서든 빠르게 작동합니다.

시스템 프롬프트가 필요 없습니다. 그냥 사용자 메시지를 보내면 제목을 돌려줍니다.

예시:

| 사용자 메시지 | 제목 |
| --- | --- |
| bruh my wifi keeps disconnecting every 10 minutes 😭 | WiFi Issues |
| what's the easiest way to make fluffy pancakes? | Fluffy Pancakes |
| can someone explain taxes to me like i'm five | Understanding Taxes |
| I am so dumb brooo | Understanding The Person That Think It's Dumb |

빠른 시작:

ollama run hf.co/SupraLabs/Supra-Title-350M-exp-GGUF:Q4_K_M

Q2(177MB)부터 BF16(711MB)까지 이용 가능합니다. Q4_K_M 버전을 권장합니다.

이번 출시는 실험적인 버전입니다. 정식 출시 전에 SFT 데이터셋을 확장하고 선호도 최적화를 탐색할 예정입니다.

피드백 환영합니다!

원문

커뮤니티 목록

r/LocalLLaMA•4개월 전•322•85

[신규 모델] Supra-Title-0.3B 출시!

[NEW MODEL] Supra-Title-0.3B Just released!

핵심 요약

채팅 대화 제목 생성에 특화된 350M 경량 모델 Supra-Title이 출시되었습니다.

특화 모델 — 채팅 대화 제목 생성만을 위해 설계된 350M 파라미터 모델임
GGUF 지원 — 모든 하드웨어에서 빠르게 실행 가능한 GGUF 형식을 지원함
간편한 사용 — 시스템 프롬프트 없이 사용자 메시지만으로 제목 생성이 가능함
실험적 출시 — 현재 SFT 데이터셋 확장 및 선호도 최적화를 진행 중임

Supra Title 출시! 🦅

LFM2.5-350M 기반으로 채팅 대화 제목 생성을 위해 특별히 제작된 350M 모델, **Supra Title (실험 버전)**을 방금 출시했습니다.

https://huggingface.co/SupraLabs/Supra-Title-350M-exp-GGUF

https://huggingface.co/SupraLabs

시스템 프롬프트가 필요 없습니다. 그냥 사용자 메시지를 보내면 제목을 돌려줍니다.

예시:

| 사용자 메시지 | 제목 |
| --- | --- |
| bruh my wifi keeps disconnecting every 10 minutes 😭 | WiFi Issues |
| what's the easiest way to make fluffy pancakes? | Fluffy Pancakes |
| can someone explain taxes to me like i'm five | Understanding Taxes |
| I am so dumb brooo | Understanding The Person That Think It's Dumb |

빠른 시작:

ollama run hf.co/SupraLabs/Supra-Title-350M-exp-GGUF:Q4_K_M

Q2(177MB)부터 BF16(711MB)까지 이용 가능합니다. Q4_K_M 버전을 권장합니다.

이번 출시는 실험적인 버전입니다. 정식 출시 전에 SFT 데이터셋을 확장하고 선호도 최적화를 탐색할 예정입니다.

피드백 환영합니다!

주요 댓글

r/localllama

새로운 모델 출시에 대한 관심과 더불어, 커뮤니티 내에서 ollama에 대한 부정적인 여론이 강하게 형성되어 있음.

188

llama serve -hf SupraLabs/Supra-Title-350M-exp-GGUF:Q4_K_M 쓰면 되는데

우린 여기선 ollama 안 씀

수정: https://llama.app

"우린 여기 너 같은 놈들 안 반기거든"

당연히 그래야지

알겠음, 수정할게

ollama에서 갈아탄 건 좋은데, llama-server(llama.cpp 프로젝트)가 사실상의 표준이니까 문서에는 그걸 넣는 게 좋을 거야.

왜 우리가 ollama를 안 좋아하는지 궁금하네

llama.cpp를 독단적으로 감싼 래퍼일 뿐이고, 추론 성능을 저하시키는 것으로 유명함. 내 생각엔 실제 목적은 없고 로컬 추론에 입문하는 사용자들을 낚아서 ollama 클라우드 결제로 유도하려는 '거머리' 같은 프로젝트임.

클라우드 모델은 필터링 되는데 '로컬' 모델은 필터링 안 되는 거 항상 이상하다고 생각했음. 설명 고맙다.

llama.cpp를 기반으로 사용하면서도 이를 의도적으로 숨겨온 전력이 있는데, 이건 오픈소스 라이선스 위반임.
대형 모델의 인기를 이용해 다운로드 수를 챙기려고 deepseek distill 같은 소형 모델의 이름을 교묘하게 가려온 전력이 있음.
ollama 모델 형식은 혼란스럽고 다루기 까다로움.
ollama는 한동안 llama.cpp에 대한 공로 인정을 거부했고, 백엔드를 golang으로 재작성하려다 결국 많은 기능을 망가뜨렸음. 그들은...

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

5번 보고 웃었네, 저건 놓쳤음. 6번이 제일 짜증 나지. 근데 뭐, 걔네가 말은 안 하지만 클라우드에 집중하고 있다는 거 생각하면 이게 걔네한테는 이득이겠지.

[7] - 성능을 아주 떨어뜨리는 엉망진창인 채팅 템플릿을 배포함. Unsloth가 저평가받는 부분 중 하나가 (다들 그냥 양자화만 하는 줄 알지만) GGUF 릴리스를 위해 채팅 템플릿 버그를 수정해 주는 거임.

[8] - 사용자들을 속이는 꼼수 - 한때는 (지금은 고쳤는지 모르겠지만) 클라이언트한테 실제보다 더 많은 컨텍스트를 지원하는 것처럼 착각하게 만들었음. 더 긴 프롬프트를 받아놓고 앞부분을 그냥 날려버리는 식으로. 별로...

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

내가 알기로는 llama.cpp에서 가져가기만 하고 기여는 안 하는 데다, 불필요한 기능이 너무 많음.

Ollama는 일을 더 쉽게 만들어주는 척하면서, 실제로는 사용자를 가둬두고 일을 더 복잡하게 만듦. 예를 들어, 모델을 저장하고 관리하는 자기들만의 방식을 도입함. 모델 다운로드에 몇 시간씩 쏟아붓고 나서, 다른 추론 엔진을 써보려고 하면 다운로드한 모델을 쉽게 가져다 쓸 수 없다는 걸 알게 됨. 이름이 바뀌어 있고, 원래 모델이 아니기 때문임 등등.

그냥 llama.cpp를 쓰는 게 나음. 순수하고, 모델도 더 빨리 돌아가고, 안...

-1

그게 작동한다고? llama-serve를 써야 하는 줄 알았는데

http://llama.app 메타를 좀 따라와야겠네

원문r/LocalLLaMA

지금 같이 볼 만한 글

r/LocalLLaMA•1일 전

Qwen3.8-Flash-Next 177B NVFP4(119GiB): RTX 5060 Ti 16GB + 32GB RAM에서 SSD 스트리밍으로 9-10 tok/s 달성

SSD 스트리밍을 활용해 VRAM 용량을 초과하는 대형 MoE 모델을 저사양 하드웨어에서 구동하는 추론 엔진을 개발함.

Qwen3.8-Flash-Next 177B NVFP4(119GiB): SSD streaming at 9-10 tok/s on one 16 GB RTX 5060 Ti + 32 GB RAM

SSD 스트리밍을 활용해 VRAM 용량을 초과하는 대형 MoE 모델을 저사양 하드웨어에서 구동하는 추론 엔진을 개발함.

5842

Reddit 원문

r/ClaudeAI•약 12시간 전

드디어 실감이 나네

사이버 보안 전문가가 Claude를 활용해 며칠 걸리던 고난도 CTF 문제를 단 2시간 만에 해결한 경험담.

2667370

Reddit 원문

r/opencode•약 17시간 전

오픈코드 스킬 레포지토리 Top 10

공유된 오픈코드 스킬 레포지토리 목록에 대한 사용자 반응입니다.

공유된 오픈코드 스킬 레포지토리 목록에 대한 사용자 반응입니다.

53447

Reddit 원문

커뮤니티 전체 보기

원문

주요 댓글

r/localllama

새로운 모델 출시에 대한 관심과 더불어, 커뮤니티 내에서 ollama에 대한 부정적인 여론이 강하게 형성되어 있음.

188

llama serve -hf SupraLabs/Supra-Title-350M-exp-GGUF:Q4_K_M 쓰면 되는데

우린 여기선 ollama 안 씀

수정: https://llama.app

"우린 여기 너 같은 놈들 안 반기거든"

당연히 그래야지

알겠음, 수정할게

ollama에서 갈아탄 건 좋은데, llama-server(llama.cpp 프로젝트)가 사실상의 표준이니까 문서에는 그걸 넣는 게 좋을 거야.

왜 우리가 ollama를 안 좋아하는지 궁금하네

클라우드 모델은 필터링 되는데 '로컬' 모델은 필터링 안 되는 거 항상 이상하다고 생각했음. 설명 고맙다.

llama.cpp를 기반으로 사용하면서도 이를 의도적으로 숨겨온 전력이 있는데, 이건 오픈소스 라이선스 위반임.
대형 모델의 인기를 이용해 다운로드 수를 챙기려고 deepseek distill 같은 소형 모델의 이름을 교묘하게 가려온 전력이 있음.
ollama 모델 형식은 혼란스럽고 다루기 까다로움.
ollama는 한동안 llama.cpp에 대한 공로 인정을 거부했고, 백엔드를 golang으로 재작성하려다 결국 많은 기능을 망가뜨렸음. 그들은...

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

내가 알기로는 llama.cpp에서 가져가기만 하고 기여는 안 하는 데다, 불필요한 기능이 너무 많음.

그냥 llama.cpp를 쓰는 게 나음. 순수하고, 모델도 더 빨리 돌아가고, 안...

-1

그게 작동한다고? llama-serve를 써야 하는 줄 알았는데

http://llama.app 메타를 좀 따라와야겠네

원문r/LocalLLaMA