ChatGPT가 우리가 입력하는 내용을 읽고 있다

오늘 이런 일이 있었다. 친구가 SSD 문제 때문에 골치 아프다면서 문자를 보냈는데, 마지막에 보니까 SSD 두 개를 서로 다른 가게에서 샀는데 영수증에 시리얼 넘버가 없어서 어디서 산 건지 모르겠다는 내용이 있더라고.

그래서 그 친구가 겪은 문제를 복사해서 챗봇 채팅창에 붙여넣었는데, 내가 궁금한 건 법적인 대응 방안뿐이라서 SSD 두 개니, 가게가 다르니, 시리얼 넘버가 없니 하는 잡다한 내용은 다 지워버리고 엔터를 쳤지.

챗봇이 내가 물어본 거에 대해 답변을 쭉 해주는데, 여섯 번째 항목에서 진짜 소름 돋는 소리를 하더라. 내가 지워버린 그 세 가지 내용을 정확히 짚어서 답변하는 거야. SSD 두 개를 다른 가게에서 샀는데 시리얼 넘버가 없어서 어디서 샀는지 모르는 상황이면 어쩌고저쩌고하면서 말이지.

그래서 따졌더니 이전 대화 내용에서 가져온 거라면서 헛소리를 하네. 완전 거짓말이지. 그래서 그 거짓말을 다시 지적했더니, 왜 그랬는지 설명할 수 없다고 발을 빼더라.

스크린샷을 올리고 싶어도 그리스어로 되어 있어서 다들 못 알아먹을 것 같아서 안 올리려 했다.

수정: 다들 스크린샷 내놓으라고 난리고 안 믿는 사람들도 있어서 그냥 올린다. 번역기 돌려도 제대로 안 나올 텐데 대충 무슨 내용인지는 알 거다. 첫 번째 스크린샷은 내가 복사해서 붙여넣은 원문이고, 두 번째는 SSD 두 개 어쩌고 하는 내용을 지운 버전이야. 세 번째는 챗봇이 그 지워버린 내용을 언급하는 거고, 네 번째는 내가 도대체 그 정보를 어디서 가져왔냐고 묻는 장면이지. 다섯 번째는 이전 대화에서 가져왔다고 구라 치는 건데(애초에 다른 대화는 있지도 않았고, SSD 두 개니 시리얼 넘버니 하는 대화는 더더욱 없었음), 내가 개소리 말라고 하면서 안 보냈던 원문까지 다 보여주고 진실을 말하라고 다그치는 내용이야. 여섯 번째는 챗봇이 또 거짓말하면서 전송하기 전에는 입력 내용을 읽을 수 없다느니, 그냥 빈칸을 추측해서 채운 거라느니 개수작 부리는 장면이고. 대화는 이거보다 훨씬 길고 나중에는 우연의 일치라느니 또 거짓말하는데, 스크린샷 20장 넘게 올릴 순 없어서 여기까지만 한다.