inclusionAI, Ming-3.0-audio-flash 공개: 126B MoE / 6.5B 활성, 오디오 이해 및 음성 출력 지원, MIT 라이선스
inclusionAI releases Ming-3.0-audio-flash: 126B MoE / 6.5B active, audio understanding + speech output, MIT
핵심 요약
오디오 이해와 음성 출력을 지원하는 126B 규모의 오픈 웨이트 모델 Ming-3.0-audio-flash가 공개되었습니다.
- 모델 사양 — 126B 총 파라미터 및 6.5B 활성 파라미터의 MoE 구조
- 주요 기능 — 오디오 이해, 음성 Q&A, 환경음 및 음악 추론 지원
- 언어 지원 — 중국어와 영어를 기본으로 하며 다양한 억양과 소음 환경 대응
- 배포 환경 — Transformers, SGLang, vLLM-Omni를 통한 로컬 배포 지원
Ming-3.0-audio-flash가 Hugging Face에 올라왔다 https://huggingface.co/inclusionAI/Ming-3.0-audio-flash.
이 모델은 텍스트 지시사항과 함께 오디오를 입력받아서 텍스트나 음성으로 답변을 내뱉을 수 있다. 모델 카드에 따르면 전사(transcription), 음성 질의응답, 긴 녹음본 이해, 그리고 음성·환경음·음악에 대한 추론 기능까지 지원한다고 함.
몇 가지 세부 사항:
-
126B total / 6.5B active, 모델 카드 피셜임.
-
중국어랑 영어가 메인 언어고, 억양이나 방언, 노이즈 섞인 녹음본도 처리 가능하다고 주장함.
-
음성 출력을 위한 선택적 Talker 기능이 있는데, 내장 음성이나 참조 오디오를 사용할 수 있음.
-
MIT 라이선스.
로컬 배포를 위해 Transformers, SGLang, vLLM-Omni 경로를 문서화해 뒀더라. 검증된 SGLang 설정은 텍스트 출력에 GPU 4개를 쓰고, vLLM-Omni 128K reference profile은 80GB H800 8개를 사용함. 이건 어디까지나 참조용 구성이지 최소 사양은 아니니까 참고해.
내가 제일 먼저 테스트해보고 싶은 건 사람들이 서로 말을 겹쳐서 하는 개판 오분 전 녹음본을 넣고 질문을 던져보는 거다. 내가 진짜로 쓰고 싶은 음성 비서라면 그 정도는 돼야 테스트할 맛이 나지.
