Diffuspace/Clover-35B-A3B-Preview · 허깅페이스
Diffuspace/Clover-35B-A3B-Preview · Hugging Face
핵심 요약
DiffuSpace에서 공개한 35B 파라미터 기반의 오픈소스 확산 언어 모델 Clover-35B-A3B-Preview 소개.
- 모델 아키텍처 — 35B 파라미터 MoE 기반에 토큰당 3B 활성 파라미터 사용
- 긴 컨텍스트 — 128K 컨텍스트 윈도우 지원으로 대규모 데이터 처리 가능
- 성능 지표 — 공개된 벤치마크에서 오픈소스 확산 모델 중 최고 수준 기록
- 기술적 특징 — 확산 모델에 최적화된 Gated Delta Net 구조 적용
huggingface.co
원문 사이트로 이동
Clover-35B-A3B-Preview는 DiffuSpace에서 처음으로 내놓은 모델인데, 출시 당시 공개된 벤치마크 기준 오픈소스 디퓨전 언어 모델 중에서는 압도적인 성능을 보여줌. 자세한 건 우리 출시 블로그에서 확인 가능함. Clover는 35B 파라미터의 MoE(Mixture-of-Experts) 백본에 토큰당 약 3B의 활성 파라미터를 사용하고, 블록 디퓨전 생성 방식과 128K 컨텍스트 윈도우를 때려 박은 게 특징임.


