🟩 NVIDIA의 전체 음성 스택이 로컬로 구현됨. ASR + TTS + 코덱이 GGUF로 양자화되어 NeMo-Speech.cpp를 통해 기기 내에서 실행

웨이크 워드(wakeword)는 이걸로 실제 제품을 만드는 사람들에게 정말 중요한데, 여전히 시장의 큰 공백처럼 느껴짐. LLM 기반의 ASR 프로세스를 계속 돌리는 건 대부분의 음성 제어 제품에 효율적이지 않거든. openwakeword를 대체할 수 있는 쉽고 완벽하게 커스터마이징 가능한 오픈 소스 대안이 있다면 내 왕국이라도 내주겠음.

맞아, 선택지가 아예 없다는 게 너무 지겨워. 특히 난 C# 개발자라 더 그렇고.

난 웨이크 워드를 썼었는데, 요즘은 목걸이에 Flic 버튼을 달고 한쪽 귀에 블루투스 이어폰을 끼고 다녀. 내 비서는 OpenAI 실시간 API로 만들었는데, 로컬로 돌리고 싶어. 불행히도 parakeet 같은 '매우 좋은' ASR 모델조차 내 기준엔 오류가 너무 많아. 단어 오류율(WER)이 4%만 돼도 세 문장마다 한 번씩은 꼭 뭘 망치거든. ChatGPT의 음성 입력처럼 엄청난 정확도를 보여주는 걸 아는 사람 있으면...

아직 독점적인 SOTA급은 아니지만, parakeet보다 좋은 업그레이드 버전들이 몇 개 있어. 지금 하는 작업에 따라 qwen3-asr 1.7b, canary-qwen 2.5b, cohere transcribe, granite speech 3.3 8b를 사용해(새로 살펴볼 목록도 몇 개 있고). 전부 parakeet보다 정확도가 눈에 띄게 좋아. 특히 소음이 있는 환경에서 말이야. 괜찮은 GPU만 있다면 8b 모델도 비서 작업용으론 충분히 빠르니까, 유일한 진짜 이유는...

에너지 소모량과 컴퓨팅 요구량 때문이야. 잘 만든 웨이크 워드 모듈은 항상 듣고 있는 ASR 프로세스보다 훨씬 효율적일 수 있거든. 스마트 스피커가 기기 내에서 웨이크 워드를 돌리고, 전사는 데이터 센터에서 하는 이유가 바로 그거야. 그러니까 라즈베리 파이나 ESP 같은 저전력 기기를 쓴다면, 웨이크 워드가 전사 프로세스보다 훨씬 반응성이 좋을 거야.