r/LocalLLaMA•3개월 전•335•73
화웨이, OpenPangu-2.0-Flash 오픈 소스 공개 - 총 92B, 활성 6B
Huawei open-sources OpenPangu-2.0-Flash - 92B total,6B active
핵심 요약
화웨이가 자체 칩으로 학습시킨 MoE 모델 OpenPangu 2.0을 오픈 소스로 공개했습니다.
- OpenPangu 2.0 공개 — 총 92B 파라미터 중 6B만 활성화되는 MoE 구조임
- 자체 하드웨어 학습 — 엔비디아가 아닌 화웨이 칩으로 전체 학습을 완료한 모델임
- 오픈 소스 정책 — 가중치, 추론 코드, 학습 작업까지 모두 공개하여 접근성을 높임
- 성능 논란 — 벤치마크 수치가 모호하며 Qwen 등 기존 모델보다 낮을 수 있다는 우려가 있음
https://x.com/Chinazhidx/status/2071877413685109071
오늘: #Huawei가 OpenPangu-2.0-Flash를 오픈 소스로 공개했습니다.
#OpenPangu 2.0은 두 개의 512K 컨텍스트 모델을 포함합니다:
• Flash: 총 92B, 활성 6B — 가중치 + 추론 코드 + 학습 작업(ops) 공개됨
• Pro: 총 505B, 활성 18B — 플래그십 모델, 7월 출시 예정. 올해 말 더 많은 오픈 소스 구성 요소 공개 예정
