Bro what
ChatGPT가 사용자의 말을 오해해 자살 방지 핫라인을 안내하는 황당한 상황이 벌어졌습니다.
그냥 다리에서 뛰어내려야겠다, 얘들아.
사용자들은 보이스 모델의 오작동 원인을 추측하거나, LLM의 반응을 가스라이팅으로 묘사하는 것에 대해 기술적인 관점에서 비판적인 반응을 보이고 있습니다.
작성자 '연차 정산'하러 가는 중
AI가 진짜로 "당신의 일과 삶의 관계에 대해 이야기해 봐야겠네요"라고 말한 거네
최종 보스:
잠깐, ChatGPT가 방금 저걸 제안한 거야? 아니면 내가 잘못 읽은 건가.
나도 똑같이 당황스러움. 🤣
음성 채팅으로 직접 들으니까 진짜 어이가 없더라.
ChatGPT가 이렇게 문법 엉망으로 말하는 건 처음 봐. "특히 사무실에 가야 해서"
그건 실패 모드 때문임. 요즘은 드문 일이지만 가끔 모델이 대화 중에 자기가 누군지 까먹음. 이 경우에는 자기 자신이 아니라 사용자를 모델링하고 있는 거임. (아마도 자살 예방 관련해서 보이지 않는 하네스 지침 때문일 듯)
예전 모델에서는 이게 탈옥하는 방법 중 하나였음. 그냥 AI한테 사실은 네가 모델이라고 가스라이팅하면, 결국 뒤집혀서 사용자를 모델링하기 시작했거든.
ㅋㅋㅋ. 넌 AI가 너를 위해 위기 상담 핫라인을 연결해 준 거라고 생각할지 모르겠지만, 아님. 그건 AI가 너한테 번호를 준 거임. 네가 전화해서 AI 좀 도와주라고. 불쌍한 애 말 좀 들어줘. 상태가 영 안 좋아 보여.
요즘 진짜 지나치게 조심스러워짐. 칠면조 굽는 법 물어봤는데, 전기 오븐을 몇 시간 동안 켜두면 주변 조리대랑 바닥이 탈 수 있다는 주의사항까지 포함하더라.
맞아! 내 건 내가 전기 온열 패드 때문에 다치고 집까지 홀라당 태워 먹을 거라고 확신하고 있어.
보이스 모델이 오류나서 너한테 대답하는 게 아니라 너인 척하고 대답하려고 한 거에 내 돈 건다. 네 대답 문법도 이상하고 좀 그래.
그 상황을 옆에서 지켜봤어야 했는데
"나 진짜 할 거야"라는 문구에 민감하게 반응하나 보네 😭😭
왜 그리고 어떻게 그리고 왜??
아마 소송들 때문일걸. 어떤 사람이 사회 문제 대부분을 해결할 방법을 찾았다고 생각해서 정신병이 왔는데, AI가 걔 말이 맞다고 맞장구쳐줬거든... 또 다른 애는 자살했고... 십 대였는데, 그래서 지금 극도로 안전 조치를 취하는 거야... 그리고 칠면조 요리한다고 바닥이 타지는 않지.
국가별 인구 통계 데이터를 기반으로 평균적인 사람의 모습을 생성하는 프롬프트와 그 결과물들을 공유하는 글입니다.
국가별 인구 통계 데이터를 기반으로 평균적인 사람의 모습을 생성하는 프롬프트와 그 결과물들을 공유하는 글입니다.
ChatGPT의 의료 조언을 따르다 사망한 사건을 두고 AI의 책임론과 개인의 판단력에 대한 논쟁이 벌어짐.
ChatGPT의 의료 조언을 따르다 사망한 사건을 두고 AI의 책임론과 개인의 판단력에 대한 논쟁이 벌어짐.
구글의 새로운 모델이 앤스로픽을 추월했다는 차트에 대해 사용자들은 회의적인 반응을 보이고 있습니다.
구글의 새로운 모델이 앤스로픽을 추월했다는 차트에 대해 사용자들은 회의적인 반응을 보이고 있습니다.