Fish Audio Drama 3는 48GB NVIDIA 카드가 필요하다는데, 내 16GB 라데온은 생각이 좀 다른가 봐.
Fish Audio Drama 3 says it needs a 48 GB NVIDIA card. My 16 GB Radeon disagrees.
핵심 요약
공식적으로 48GB NVIDIA GPU를 요구하는 Fish Audio Drama 3를 AMD GPU와 시스템 RAM을 활용해 16GB 환경에서 구동하는 방법을 공유함.
- AMD 구동 지원 — 공식적으로 NVIDIA 전용인 Drama 3를 ROCm 환경에서 실행 가능하게 함
- RAM 오프로딩 — 35B MoE 모델의 활성 파라미터만 GPU에 캐싱하고 나머지는 시스템 RAM을 활용
- 성능 최적화 — 실시간보다는 느리지만 짧은 문장 생성에는 충분한 속도 확보
- 웹 UI 제공 — 음성 복제 및 다중 화자 스크립트 기능을 포함한 인터페이스 구현
Drama 3는 공식적으로 48GB VRAM을 먹는 NVIDIA GPU가 필요함. 난 내 RX 9070에서 돌리고 싶어서 Claude랑 같이 Red Curtain을 만들었음.
작동 방식은 이럼: 토큰당 ~3B 활성화되는 35B MoE 구조임. FP8 전문가 모델(~32GB)은 시스템 RAM에 박아두고, 실제로 쓰는 놈들만 GPU에 캐싱함. 나머지는 전부 카드에서 BF16으로 돌아감.
내 컴퓨터에서 뽑은 수치:
- 로드 ~17초
- 3.3초 분량 음성 ~13초, 11.6초 분량 ~37초
- ~11–12GB VRAM, ~35GB RAM
실시간보다는 느리지만 짧은 거 뽑기엔 괜찮음. 간단한 웹 UI도 같이 들어있음: 레퍼런스 클립으로 음성 복제 가능하고, 다중 화자 스크립트 지원하고, Fish 자체 에디터랑 똑같은 태그([laughing], [sighing], <whisper>…</whisper> 등)도 다 먹힘.
알려진 문제: 가끔 첫 줄만 읊고 벙어리 되는 현상이 있음. 이건 Drama 3 자체 종특(vLLM 레시피에도 언급됨)이라 Fish 레퍼런스 코드랑 비교해 봤는데 AMD 포트 문제는 아님. 해결법은 이거임: top-k를 30 대신 끄고, 각 화자한테 레퍼런스 보이스 지정해주고, 문장 시작을 사운드 태그로 안 하면 됨. 지금은 이게 기본 설정임.
일단 RX 9070(gfx1201)에서만 테스트해 봤는데, 다른 카드에서도 잘 돌아가는지 알려주면 개꿀일 듯. 가중치는 포함 안 되어 있으니까 Hugging Face에서 직접 받아야 함.
Fish Audio랑은 아무 상관 없음. 그냥 Fish Audio 기술 써서 만든 거임.
