r/LocalLLaMA•5개월 전•28•6
GitHub - pwilkin/openmoss: GGML 기반의 순수 C++ OpenMOSS 파이프라인
GitHub - pwilkin/openmoss: OpenMOSS pure C++ pipeline based on GGML
핵심 요약
파이썬 환경의 복잡함을 피하기 위해 OpenMOSS TTS 모델을 GGML 기반의 순수 C++ 파이프라인으로 구현함.
- C++ 파이프라인 — 파이썬 의존성 없이 OpenMOSS TTS를 구동할 수 있는 GGML 기반 구현체임.
- 다국어 지원 — 영어와 중국어 외에도 폴란드어 등 다양한 언어 처리에 강점을 보임.
- 유연한 실행 모드 — 서버 모드와 단일 실행 CLI 모드를 모두 지원하여 활용도가 높음.
- 낮은 리소스 점유 — 1.7B 모델 기준 Q8 양자화 시 약 2GB VRAM만 사용하여 효율적임.
OpenMOSS(https://huggingface.co/OpenMOSS-Team/MOSS-TTS)를 위한 전체 GGML 기반 파이프라인을 업로드합니다. 혹시 필요한 분들이 있을까 해서 제 개인적인 용도로 '바이브 코딩'해둔 것입니다.
TTS 모델들은 전체 파이썬 생태계 때문에 설정하기가 까다롭기로 유명해서, 좀 더 간단하게 만들어보기로 했습니다. 서버 모드와 단일 실행 CLI 모드 모두 지원합니다.
왜 OpenMOSS냐고요? 저에게는 일반적인 '영어/중국어' 듀엣 외의 언어, 즉 폴란드어를 잘 다룰 수 있는 몇 안 되는 TTS 모델 중 하나였기 때문입니다. 다른 분들에게도 유용했으면 좋겠네요.
