r/LocalLLaMA•5개월 전•79•20
FINAL-Bench/Darwin-36B-Opus · 허깅페이스
FINAL-Bench/Darwin-36B-Opus · Hugging Face
핵심 요약
Darwin V7 진화 엔진으로 Qwen 35B 기반 모델 두 개를 결합해 만든 36B MoE 모델 Darwin-36B-Opus가 공개됨.
- Darwin V7 엔진 — 진화적 육종 방식을 통해 두 모델을 결합하여 새로운 모델을 생성함.
- 모델 구조 — Qwen 3.6-35B 기반의 MoE 구조를 유지하며 추론 능력을 강화함.
- 성능 지표 — GPQA Diamond 벤치마크에서 88.4%를 기록하며 Darwin 시리즈 중 최고 성능을 달성함.
- 배포 효율성 — 단일 GPU에서 1시간 이내에 bfloat16 체크포인트 생성이 가능함.
https://huggingface.co/bartowski/FINAL-Bench_Darwin-36B-Opus-GGUF
Darwin-36B-Opus는 Darwin V7 진화 육종 엔진으로 두 개의 공개된 부모 모델로부터 생성된 360억 파라미터의 MoE(Mixture-of-Experts) 언어 모델임:
- 아버지: Qwen/Qwen3.6-35B-A3B — 하이브리드 어텐션과 256개의 라우팅 전문가를 갖춘 기반 MoE 모델.
- 어머니: hesamation/Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled — 같은 아버지 모델을 기반으로 한 Claude Opus 4.6 추론 증류 변형 모델.
Darwin V7은 이 두 부모 모델을 하나의 자손으로 재결합하여, 아버지 모델의 전문가 토폴로지 구조적 충실도는 유지하면서 어머니 모델의 증류된 사고 과정(Chain-of-Thought) 동작을 보존함. 육종 과정은 완전히 자동화되어 있으며 단일 GPU에서 1시간 이내에 배포 가능한 bfloat16 체크포인트를 생성함.
물리학, 화학, 생물학 분야의 대학원 수준 질문 198개로 구성된 GPQA Diamond 벤치마크에서 Darwin-36B-Opus는 **88.4%**를 달성함. 이는 Darwin 시리즈 중 가장 높은 성능이며, 재학습이 아닌 진화를 통해 최첨단 오픈 모델을 생산한다는 시리즈의 기록을 확장함.
