커스텀 보이스 스택 vs 플랫폼? STT 제어권에 따라 결정해야 함

Smallest AI Pulse는 'STT 레이어에 대한 제어권이 필요하다'는 단계에서 의미가 있죠. 플랫폼 안에 완전히 머물러 있다면 직접 건드릴 일은 없을 테니까요.

제 기준은 첫 번째 '돌이킬 수 없는 부작용'이 발생하는 시점입니다.

통화가 대화나 자격 확인, 혹은 사람의 검토 큐에서 끝나는 동안에는 관리형 플랫폼으로 충분합니다. 하지만 불안정한 전사(transcript)가 후속 조치를 보내거나, 기록을 변경하거나, 예약을 잡거나, 돈을 움직이게 할 수 있다면, 저는 원시 턴 이벤트와 액션 경계에 대한 제어권을 원합니다.

음성 루프는 확률적이어도 괜찮지만, 액션 경로는 그러면 안 됩니다. 저는 부작용을 타입이 지정된 액션 뒤에 두고, 중요한 필드를 검증하고, 확신이 없을 때는 확인을 요구합니다.

저는 블랙박스가 고통스럽다는 막연한 느낌이 아니라, 섀도우 평가(shadow eval)를 기준으로 선을 긋겠습니다. 실제 통화 100~200개를 가져와서 전화번호나 주소 수정, 부정문(예: '금요일은 예약하지 마'), 모델 번호, 끼어들기, 낮은 신뢰도 턴 등 실제로 후속 작업을 망치는 부분들을 점수화해보세요. 사람의 검토율과 중요 필드 오류율이 허용 가능한 수준이라면 플랫폼에 머무르세요. 실패 클러스터가 입증되는데 플랫폼이 이벤트나 타임스탬프를 노출해주지 않는다면 그때 커스텀으로 가세요.

완전 동의함. 일단 수요 검증에 집중하는 게 똑똑한 거지. 탄탄한 사용자 기반이 있어서 꼭 필요한 경우가 아니라면 커스텀 인프라는 오히려 방해만 될 수 있음. 기존 툴로 한계가 올 때까지는 그걸 쓰는 게 맞아.

사람들이 전화를 원하는지 증명하려면 플랫폼을 쓰고, 왜 그 전화들이 실패하는지 제어해야 할 때 커스텀으로 빌드해라... 이게 정답임.

가장 최악의 블랙박스 문제는 대시보드상으로는 통화가 잘 진행된 것처럼 보이는데, 고객은 에이전트가 틀렸다고 말할 때임.

Pipecat + 직접 로그 관리 = 고통스럽긴 한데, 그래도 가치 있는 고통임.