Tyger: 오픈 웨이트 스트리밍 ASR 및 전이중 턴 제어 통합 모델
Tyger: open-weights streaming ASR + full-duplex turn-control in one model
핵심 요약
음성 에이전트의 턴 제어를 위한 오픈 웨이트 모델 Tyger와 이를 활용한 로컬 음성 에이전트 스택이 공개되었습니다.
- 모델 기능 — 음성 에이전트의 턴 제어를 위해 80ms마다 상태를 판단함
- 기술 스택 — NVIDIA Nemotron 3.5 ASR과 GRU를 결합한 경량 모델
- 하드웨어 요구사항 — 전체 스택 구동 시 28GB VRAM 필요
- 개인정보 보호 — 로컬 구동 시 외부 데이터 전송 없이 완전 오프라인 작동 가능
huggingface.co
원문 사이트로 이동
안녕 r/LocalLLaMA 형들, 음성 에이전트를 위한 풀 듀플렉스 턴 제어(turn-control)를 처리하는 작은 모델인 Tyger를 공개할게.
이게 뭔데?
베이스: NVIDIA Nemotron 3.5 ASR Streaming 0.6B + 그 위에 14M causal GRU를 얹었어.
80ms마다 룩어헤드(lookahead) 없이 다음 세 가지 상태 중 하나를 골라:
- answer: 사용자가 말을 마침
- stop: 사용자가 말을 끊어서 에이전트가 말을 멈춤
- chime in: 에이전트가 "음", "아 진짜?" 같은 추임새를 넣고 계속 들음
마이크 소리랑 에이전트 본인의 재생 소리를 둘 다 듣기 때문에, 에이전트가 자기 목소리 메아리를 사용자 목소리로 착각하지 않아.
tyger-s2s(Apache-2.0)
완전한 음성 에이전트: Tyger + Gemma 4 E4B FP8 + VoxCPM2 조합이야.
- 툴 호출(Tool calls) 지원
- 최대 4개 동시 대화 가능
- RTX 5090 기준 응답 속도 약 0.7초 [사용자 발화 종료 시점부터 첫 오디오 출력까지 측정]
- 선택적 호스팅 "전문가" 모드 [openai], 기본값은 꺼져 있음. 끄면 전부 로컬에서 돌아가고 오디오나 텍스트가 외부로 절대 안 나감.
한계점
- Tyger 자체는 작지만, tyger-s2s 스택은 VRAM 28GB가 필요해. 5090에서 테스트했고 다른 GPU는 테스트 안 해봤어. 3090/4090 쓰는 형들 후기 환영함.
- FP32 전용, 양자화 테스트 안 됨
- 아직 오프라인 벤치마크만 있음
링크
- 모델: https://huggingface.co/nineninesix/tyger
- 에이전트: https://github.com/nineninesix-ai/tyger-s2s
- 데모 (무료 가입): https://www.nineninesix.ai/
피드백 환영해. 특히 턴 주고받을 때 어색한 부분 있으면 꼭 좀 알려줘.
