r/LocalLLaMA•약 3시간 전•117•60
ornith-ai/Ornith-1.5-122B (Qwen 파인튜닝 모델)
ornith-ai/Ornith-1.5-122B (Qwen finetune)
핵심 요약
자기 개선 루프를 통해 학습하는 122B 규모의 새로운 Qwen 기반 모델 Ornith-1.5가 공개되었습니다.
- 자기 개선 루프 — 태스크 생성과 솔루션 최적화를 동시에 수행함
- 모델 아키텍처 — Qwen3.5 및 Gemma4 기반의 122B 파라미터 모델
- 성능 논란 — 기존 모델 대비 속도가 느려 실용성에 의문이 제기됨
- 학습 방식 — 강화학습을 통해 지속적으로 새로운 학습 태스크를 생성함
huggingface.co
원문 사이트로 이동
Ornith로부터:
Ornith-1.5-122B
짹짹! 🐦 엔드투엔드 자기 개선을 통해 파운데이션 모델을 구축하는 데 큰 진전을 이룬 Ornith-1.5를 소개한다.
Ornith-1.5는 Qwen3.5와 Gemma4를 기반으로 추가적인 사전 학습, 중간 학습, 사후 학습을 거쳐 개발된 Ornith-1.0을 확장한 모델이다. 기존의 스캐폴드 및 롤아웃 최적화에서 더 나아가, 태스크 생성, 스캐폴드 구축, 솔루션 롤아웃을 동시에 최적화하는 방식으로 자기 개선 루프를 확장했다. 사람이 일일이 만든 태스크나 수동으로 설계한 하네스에 의존하는 대신, Ornith-1.5는 끊임없이 새로운 학습 태스크를 생성하고, 그걸 해결할 효과적인 전략을 찾아내며, 강화 학습을 통해 정책을 개선한다. 태스크, 하네스, 롤아웃 보상 설계에 대한 자세한 내용은 우리 블로그를 참고해라.
