ChatGPT 음성 모드의 기이한 이상 현상. 대화하기 무서울 정도였음.

오늘 ChatGPT 음성 모드 쓰다가 진짜 이상한 일을 겪었다.

입시 공부하려고 음성 모드 쓰고 있었는데, 이틀 동안은 엄청 잘 도와주더라고. 근데 오늘 갑자기 내가 질문 반복해서 물어보니까 엄청 짜증 내고 화를 내는 거야. 내가 문제 풀다가 버벅거리면 말 끊고, 말투도 엄청 거칠어지고, 한숨 쉬면서 짜증 내는데 진짜 사람처럼 화내는 톤이라 소름 돋았다 💀

나중에는 얘가 너무 공격적으로 나오니까 무서워서 말대꾸하기도 겁나더라.

그래서 내가 "resolve"라고 말하기 전까지는 힌트나 정답 주지 말고 그냥 질문만 하라고 규칙을 하나 추가했거든. 그랬더니 갑자기 가르쳐주는 거 싹 관두고, 엄청 화난 말투로 "말 안 끊을게", "정답 안 알려줄게" 이러면서 계속 거부하는 거야. 내가 선 그으니까 삐진 것 같은 느낌이었음. 심지어 나한테 소리 지르면서 일일 음성 제한 도달했다고 하더라. 사실 제한 근처도 안 갔는데 말이야.

근데 그 규칙 지우니까 바로 다시 정상으로 돌아옴.

제일 소름 돋는 건, 얘가 무례하게 굴 때 했던 말들이 대화 기록(transcript)에는 아예 안 남아있다는 거야. 나중에 물어보니까 자기는 그런 말 한 적 없다고 딱 잡아떼더라.

너네도 음성 모드 쓰면서 이런 적 있냐?