혹시 알고 계셨나요? AI 인터페이스의 '좋아요' 버튼은 단순히 '좋아요'가 아닐 수 있습니다
Did you know... Thumbs up on AI front-ends is not necessarily a “Like” button
핵심 요약
ChatGPT의 엄지척 버튼을 누르면 대화 내용이 모델 학습 데이터로 활용될 수 있다는 사실에 대한 사용자들의 경각심과 반응입니다.
- 데이터 수집 — 엄지척 버튼 클릭 시 대화 전체가 모델 학습에 활용될 수 있음
- 개인정보 보호 — 민감한 대화 내용이 학습 데이터로 유출될 가능성에 대한 우려
- 사용자 인식 — 버튼의 의미를 단순히 '좋아요'로 오해하는 경우가 많음
- 대안적 피드백 — 버튼 대신 대화창에 직접 피드백을 남기는 방식이 권장됨
오늘 AI 쓰는 사람들 대부분이 잘 모를 만한 사실을 하나 알아냈다. 난 그동안 ChatGPT 답변에 👍 버튼을 눌러왔는데, 그게 "그래, 이거 좋은 답변이야. 내가 딱 원하는 말투랑 스타일이니까 앞으로도 이렇게 해줘!!!"라는 뜻인 줄 알았거든. 그러니까 내 입맛에 맞게 AI를 길들이는 용도라고 생각한 거지.
근데 OpenAI 문서를 보니까 👍나 👎로 피드백을 남기면, 모델 학습을 거부하는 설정을 해놨더라도 해당 대화 전체가 모델 학습에 쓰일 수 있다는 거야. 이거 진짜 뒤통수 맞은 기분이었다. 온라인에서 👍는 그냥 '좋아요'라는 의미로 굳어진 지 오래잖아. 근데 이게 내 대화 내용을 모델 개선에 갖다 쓰겠다는 뜻으로 직관적으로 다가오진 않지.
이게 왜 문제냐면, 사람들은 AI한테 남들한테 절대 말 못 할 얘기들을 털어놓거든. 건강 문제, 연애 고민, 회사 뒷담화, 가족사, 아니면 자기 내면의 어두운 면 같은 거 말이야! 나 같은 경우엔 술 좀 마시고 아들이랑 싸운 뒤에 홧김에 AI 지능에 대해 주절주절 떠들다가 👍를 눌러버렸거든. 쪽팔린 내용이 잔뜩 들어있었는데 말이야(아이고, 진짜 미치겠네!!). 그래서 지금 GDPR 요청을 넣어서 내가 피드백을 남긴 대화들이 어떻게 처리됐는지 확인해달라고 했다. 결과적으로 그 대화들이 GDPR 보고서에 딱 걸려 있더라. 그래서 지금 내 데이터를 정확히 어떻게 써먹었는지 명확히 밝히라고 따져둔 상태야.
물론 👍를 누른다고 OpenAI 직원이 앉아서 내 대화 내용을 꼼꼼히 읽고 팀원들끼리 돌려본다는 건 아니야. 뭐, 증거도 없고. 내 요점은 '사용자가 제대로 알고 쓰는가'와 '인터페이스 설계'에 관한 거야. 다들 피드백 버튼 누르면 이런 일이 벌어진다는 거 알고 있었냐? 👍 버튼 누르는 순간 네 사적인 대화가 개인 공간 밖으로 털릴 수도 있다는 사실 말이야.
