r/LocalLLaMA•약 4시간 전•39•11
어떻게 작동하는지도 모른 채 Kokoro TTS를 50~100배 빠르게 만들기
Making Kokoro TTS 50-100x faster without knowing how
핵심 요약
AI 모델을 활용해 Kokoro TTS의 속도를 획기적으로 개선한 사례와 그에 대한 커뮤니티의 반응입니다.
- 성능 최적화 — AI 모델을 활용해 Kokoro TTS의 추론 속도를 50~100배 향상함
- 모바일 활용 — 저전력 기기 및 모바일 환경에서의 오디오북 생성을 목표로 함
- 자동화의 미래 — 명확한 지표만 있다면 AI 에이전트가 스스로 최적화를 수행하는 시대가 됨
- 발음 문제 해결 — 텍스트 전처리 단계를 통해 모델의 고질적인 발음 오류를 교정함
mesmer.tools
원문 사이트로 이동
내 생각엔 모델들, 특히 Opus 5.5는 달성 가능한 목표랑 명확한 개선 지표만 던져주면 알아서 성능을 쭉쭉 뽑아낼 수 있을 것 같았음. 그래서 내가 정확히 어떻게 돌아가는지도 모르는 걸 하나 만들어봤다.
학습은 내 지하실에 있는 4070ti super로 하루 정도 돌렸음.
물론 Opus 찌꺼기(slop)인 거 나도 아는데, ML 엔지니어 아니면 절대 불가능하다고 생각했던 것들을 평범한 웹 개발자도 할 수 있다는 게 진짜 개쩌는 듯.
애초에 Kokoro를 증류(distill)하는 초기 아이디어를 보여준 Sahil의 이 트윗 덕분임. https://x.com/sahilmdkr/status/2112212041045889409
