r/ChatGPT•약 2개월 전•239•188
ChatGPT가 내가 한 번도 언급한 적 없는 개인적인 사실을 알고 있음
ChatGPT knows personal things I have never mentioned before.
핵심 요약
ChatGPT가 언급한 적 없는 교수 이름을 알고 있어 사용자가 당황한 사건에 대한 논의입니다.
- 데이터 유출 의혹 — 사용자가 업로드한 문서의 메타데이터나 파일 내 정보가 원인일 가능성 제기됨
- 학습 데이터 추론 — 대학명과 강의명을 통해 모델이 외부 검색이나 학습 데이터로 교수 이름을 유추했을 가능성
- 위치 정보 기반 — IP 주소를 통해 위치가 파악되거나 검색 결과가 개인화되어 나타날 수 있음
- 모델의 환각 현상 — AI가 자신의 행동을 정당화하려다 거짓말을 하거나 실수를 인정하는 과정에서 발생하는 현상
오늘 블랙 미러 같은 경험을 했어. 수업 과제를 하다가 ChatGPT한테 비평을 부탁했는데, 우리 교수님이 워낙 깐깐하고 비판적인 분이라 교수님이 지적할 만한 부분을 짚어달라고 했거든.
그랬더니 ChatGPT가 "(교수님 성함) 교수님이 얼마나 꼼꼼하신지 잘 알죠."라고 답하더라고.
내가 아는 한, 우리 대화 내역 어디에서도 교수님 성함을 언급한 적이 없어. 대화 기록을 다 뒤져봐도 그런 내용은 전혀 없었어.
ChatGPT한테 다시 물어보니까 실수라고 하더라고. 예전에 언급했던 다른 교수님을 생각하고 있었는데, 우리 교수님 이름을 잘못 가져와서 환각(hallucination)을 일으킨 거라고 했어.
ChatGPT가 다른 웹사이트의 내 데이터를 접근할 수 있는 걸까, 아니면 내가 잊어버린 이전 대화 내용을 기반으로 한 걸까?
