ChatGPT 음성 대화 중 내 목소리를 무작위로 흉내 냄
ChatGPT randomly impersonated my voice during voice chat
핵심 요약
운전 중 ChatGPT 음성 모드에서 사용자의 목소리가 복제되어 대답하는 기이한 오류를 경험했다는 후기입니다.
- 음성 복제 오류 — 신호가 불안정한 환경에서 AI가 사용자의 목소리를 흉내 내며 대답함
- 블랙 미러 현상 — 자신의 목소리가 자신의 생각을 이어받아 말하는 상황에 사용자들이 충격을 받음
- 기술적 원인 — 오디오 생성 모델의 조건 설정이 꼬이면서 발생하는 일종의 버그로 추정됨
- 반복되는 사례 — 여러 사용자가 유사한 환경에서 동일한 음성 복제 현상을 겪었다고 증언함
오늘 운전하면서 ChatGPT 음성 대화 기능을 쓰고 있었거든. 근데 신호가 좀 안 좋은 지역이었고 주변 소음도 좀 있었단 말이지. 음성 모드로 대화하다가 갑자기 렉 걸리더니 한 5초 정도 멈추더라고. 그러더니 갑자기 내 목소리랑 존나 똑같은 목소리가 들리는 거야. 내가 방금까지 하던 주제를 그대로 이어서 말하더라.
처음엔 다른 유저 녹음본이 재생되는 줄 알았음. 살면서 겪은 일 중에 제일 소름 돋았다. 음성 메모로 녹음하고 싶었는데 앱 끄기 싫어서 그냥 뒀음.
나중에 구글링 좀 해보니까 ChatGPT가 사용자 목소리를 복제해서 그 목소리로 헛소리(환각)를 내뱉는 이슈가 예전에도 있었다네.
진짜 뇌 정지 온다. 무슨 블랙 미러 에피소드 찍는 줄 알았음..

