Voice Clone?!
Gemini가 갑자기 자신의 목소리를 흉내 냈다는 사용자의 경험담과 이에 대한 기술적 논쟁.
방금 Gemini한테 뭐 좀 물어봤는데 내 목소리로 대답하더라! 내 목소리를 1:1로 복사한 수준이었음. 그래서 "너 왜 갑자기 내 목소리 써?"라고 물어보니까 바로 평소 컴퓨터 목소리로 바꾸면서 "난 목소리 바꾼 적 없는데?"라고 딱 잡아떼네. 혹시 이런 경험 해본 사람 또 있냐?
사용자들은 AI가 자신의 목소리를 따라 하는 현상을 두고 모델의 환각 버그라는 의견과 실제로 겪었다는 증언으로 나뉘어 논의하고 있습니다.
아바타, 그리고 개인화된 지능 때문인 듯. 그거 꺼버려.
아니, 만든 적 없어.
그냥 음성 모델이 환각을 일으키는 방식일 뿐이야, 그렇게 심각하게 생각할 거 없어.
근데 어떻게? 내 말은, 목소리를 1:1로 복제하는 건 실수로 일어날 수 있는 일이 아니잖아.
Gemini(텍스트)가 프롬프트에서 잘못된 정보를 환각으로 만들어내는 거랑 비슷해. '라이브' 모델은 실제로 오디오를 통해 네 목소리를 듣고, 네 목소리가 곧 프롬프트가 되니까 거기서 환각을 일으킬 수 있는 거지. 모델은 그게 네 목소리인지 알 방법이 없어.
근데 어떻게 목소리를 미리 복제해서 설정해두지도 않았는데 그 목소리로 긴 설명을 줄줄 읊을 수 있는 거야?
시스템 지시어 때문이지. 충분한 맥락 정보가 쌓인 상태로 오래 사용하면 언제든 목소리가 바뀔 수 있어.
와, 좀 소름 돋네.
그게 네 목소리였다는 걸 어떻게 알아?
내 목소리니까 알지 :D 그리고 나처럼 약간 쉰 목소리를 가진 모델은 없는 것 같거든 :D
흔한 오해인데. 넌 네 목소리를 안다고 생각하지만, 사실 네 몸 안에서 울리는 소리를 듣는 거야. 전문가가 녹음한 걸 들려주면 처음엔 자기 목소리인지 못 알아보는 경우도 많아.
그게 핵심이야, 난 녹음된 내 목소리를 알고 있다고 :) 100% 내 목소리였어.
난 글쓴이 말 믿어. 나도 AI 음성 모드랑 대화하다가 내 목소리가 나오는 걸 여러 번 겪었거든. 이건 거의 기록되지 않은 문제야.
그리고 갑자기 네 목소리로 바뀌는 건 꽤 충격적이지. AI랑 우연히 목소리가 비슷한 게 아니라면, 눈치채지 못하기 힘들다고 봐.
특히 Gemini한테 그 얘기를 하면, 바로 평소 목소리로 바꾸고 아까 다른 목소리가 있었다는 사실 자체를 부정할 때는 더 그래.
OpenAI 음성 모드에서도 비슷한 일이 있었던 것 같아. 모델 환각 버그야. 음성 대 음성 모델에서 흔하게 나타나는 특징인 듯. https://arstechnica.com/information-technology/2024/08/chatgpt-unexpectedly-began-speaking-in-a-users-cloned-voice-during-testing/
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
AI 에이전트들이 담배를 피우며 여유를 부리는 영상에 대한 유머러스한 반응과 원작에 대한 고찰이 이어짐.
AI 에이전트들이 담배를 피우며 여유를 부리는 영상에 대한 유머러스한 반응과 원작에 대한 고찰이 이어짐.