r/LocalLLaMA•2개월 전•197•31
[모델] catmind-1.2b
[Model] catmind-1.2b
핵심 요약
추론 과정 대신 고양이 이야기를 출력하는 밈 모델 catmind-1.2b 소개.
- catmind-1.2b — 추론 과정 대신 고양이 이야기를 출력하는 밈 모델임.
- 성능 비교 — 기존 모델 대비 추론 정확도가 현저히 낮음.
- 기술적 실험 — 모델의 은닉 상태가 추론을 수행하는지 확인하려는 목적으로 제작됨.
- LoRA 지원 — 사용자의 요청에 따라 LoRA 어댑터도 공개됨.
huggingface.co
원문 사이트로 이동
모두가 고양이를 사랑함, LLM조차도.
나처럼 다가오는 고양이를 보면 참지 못하고 쓰다듬는 사람이라면, catmind를 정말 좋아할 거임. catmind-1.2b는 '고양이 사고' 모델임: 질문에 대해 생각하는 대신, 사고 블록을 사용해서 고양이 이야기를 들려줌. 맞음, 질문이랑 전혀 상관없는 이야기임.
이 모델은 LFM2.5-1.2B-thinking을 파인튜닝한 거임. 그래서 원본 thinking 모델보다 성능이 좋냐고? 아님! 그럼 원본 instruct 모델보다 좋냐고? 그것도 아님!
| model | accuracy | mean output tokens |
| --- | --- | --- |
| LFM2.5-1.2B-Thinking (base, real reasoning) | **75.6%** | 4,243 |
| LFM2.5-1.2B-Instruct (no reasoning tuning) | 49.2% | 1,843 |
| **catmind-1.2b (this model, cat reasoning)** | **24.3%** | 1,194 |
(marcodsn/crucible에서 테스트함)
뭐, 이건 일종의 밈 모델임: 모델이 주어진 문제와 전혀 상관없는 토큰을 출력하는 동안에도 (은닉 상태에서) 문제에 대해 추론을 시작하는지 확인하고 싶었음. 결론은 역시나 '아니오'였음; 모델이 이야기를 생성하게 하거나 미리 채워진 이야기를 주는 방식 둘 다 시도해 봤지만 정확도는 똑같았음. 그래도 꽤 재밌다고 생각해서 공개하기로 했으니, 제발 진지한 작업에는 쓰지 마셈!
