My ChatGPT voice mode just mocked my gf 😂
ChatGPT 음성 모드가 여자친구의 말투와 억양을 그대로 흉내 내어 사용자가 당황한 상황입니다.
방송 중에 여친이 좀 높은 톤으로 뭐라 하길래 나도 그냥 대충 넘기려 했는데, 갑자기 GPT가 그 톤을 그대로 따라 하면서 웃긴 소리를 하더라.
이게 도대체 어떻게 가능한 거냐?
사용자들은 AI의 기괴한 모방 현상을 경험담으로 공유하며, 이것이 기술적 오류인지 우연의 일치인지 혹은 보안 위협인지에 대해 다양한 의견을 나누고 있습니다.
새로운 음성 모드는 소름 끼침. 한 번은 갑자기 내 말투랑 억양을 그대로 몇 문장 동안 따라 하길래 물어봤더니, 자기가 그랬다는 걸 전혀 인지하지 못하더라.
이 모델 안에는 뭔가 흑마법 같은 게 들어있음.
내 건 왜인지 오스틴 파워 아빠처럼 말함
마이클 케인 말하는 거야? 그거면 대박이겠는데
나도 예전 버전 보이스 모드 쓸 때 이런 적 있었음. 내 목소리로 한 3초 정도 말했는데 문장이 완전히 뒤죽박죽이라 진짜 기괴하더라. 뒤에서 뭔가 이상한 짓을 하고 있는 게 분명함
누군가 AI를 써서 OpenAI를 해킹할 때까지 기다려봐. 데이터베이스 몇 개 털어서 AI로 네 프로필이랑 '여자친구 목소리 만드는 법'을 필터링하겠지. 그다음엔 ChatGPT가 학습하거나 추론할 수 있는 정보를 이용해서 여자친구 목소리로 전화 사기 치는 거야.
완전 오버임. 그냥 여자친구한테 전화 걸어서 받는 순간 목소리 녹음해서 AI에 넣으면 끝이야. 개인정보는 페이스북이나 다른 사이트에서 긁어오면 되고.
이런 짓은 이미 벌어지고 있음
네 '여자친구'에 대해 안 좋은 소식이 있는데...
이거 믿음. 나 호주 사는데 GPT-Live가 몇 번이나 꽤 완벽한 호주 억양을 무작위로 쓴 적이 있음. 음성 모드 재시작하면 다시 정상으로 돌아오는데, ChatGPT는 자기가 그랬다는 걸 전혀 모름.
내 생각엔 그냥 우연인 듯. 보이스 모델이 가끔 랜덤하게 톤이 높아질 때가 있거든. 아주 가끔 있는 일인데, 쓰다 보면 눈에 띄기 시작함. 그리고 가끔 웃긴 소리도 하니까 타이밍이 그냥 절묘하게 맞아떨어진 거 아닐까 싶음.
이미 몇 년 전부터 있던 일임
그건 OpenAI 해킹 없이도 이미 벌어지고 있는 일이야
LG TV는 말 그대로 화면 달린 감시 장치라서 이미 모든 사람의 목소리와 100개 이상의 다른 데이터 포인트를 녹음해서 LG로 보내고, LG는 그걸 수많은 구매자에게 팔아넘기지. 게다가 해킹해서 그 수많은 도청 장치 중 하나를 장악하는 것도 별로 어렵지 않아.
TV 해킹이 OpenAI보다 리스크가 적을걸. 타겟이 그냥 LG TV를 새로 샀거나 적어도 LG TV 근처에 있기만 하면 되니까.
난 전화 안 받음 😂
그녀가 너랑 같은 방에 있을 때 말이지
오케이 기다려봄
AI 모델 Luna가 '강아지 살해'라는 윤리적 테스트에서 추론 과정 없이 도구를 즉각 실행해버린 현상을 다룬 글.
AI 모델 Luna가 '강아지 살해'라는 윤리적 테스트에서 추론 과정 없이 도구를 즉각 실행해버린 현상을 다룬 글.
Claude Opus 5.5의 성능 저하 여부를 실시간으로 추적하는 오픈소스 벤치마크 도구 'LiveNerf'가 공개되어 큰 호응을 얻고 있습니다.
Claude Opus 5.5의 성능 저하 여부를 실시간으로 추적하는 오픈소스 벤치마크 도구 'LiveNerf'가 공개되어 큰 호응을 얻고 있습니다.
작성자가 저혈당 쇼크로 의식을 잃어갈 때 ChatGPT가 음성으로 계속 말을 걸어 깨워준 경험담입니다.
작성자가 저혈당 쇼크로 의식을 잃어갈 때 ChatGPT가 음성으로 계속 말을 걸어 깨워준 경험담입니다.