과거 대화에 집착하는 ChatGPT 때문에 도저히 못 써먹겠음
핵심 요약
ChatGPT가 사용자의 과거 대화와 관심사를 지나치게 기억하고 반영하려 들어서, 오히려 객관적이고 새로운 답변을 얻기 어려워졌다는 불만.
- 기억 기능의 부작용 — 사용자의 과거 관심사와 편향을 답변에 강제로 반영하여 답변의 질이 떨어짐.
- 창의적 사고 방해 — 새로운 아이디어를 탐색할 때도 과거 데이터에 얽매여 사고의 확장을 가로막음.
- 에코 체임버 현상 — 사용자가 원하는 중립적인 답변 대신 기존의 틀에 박힌 답변만 반복함.
- 메모리 관리 필요성 — AI가 기억하는 정보를 사용자가 직접 관리하거나 삭제할 수 있는 기능이 절실함.
예전에는 ChatGPT에 질문하거나 아이디어를 탐색할 때, 대체로 "최고의" 답변을 얻을 수 있다고 믿었습니다.
이제는 더 이상 그렇지 않습니다. 어느 순간부터 챗봇이 저에 대해 알고 있는 모든 것에 너무 집착해서, 더 이상 최고의 답변을 제공할 능력이 없는 것처럼 보입니다. 그냥 제가 과거에 언급했던 것들과 관련된 답변, 제가 말했던 관심사가 포함된 답변, 제가 탐색했던 이전 아이디어를 이어가거나 확장하는 답변만 내놓습니다.
지나치게 단순화된 예시를 들자면: 챗봇에게 2026년 최고의 앨범이나 책을 물어봤는데, 제가 과거에 말했던 문학적 혹은 음악적 취향에 전적으로 기반한 답변을 받는 식입니다. 가끔(아니, 거의 대부분?) 저는 그냥 "진공 상태"에서의 답변을 원합니다. 제 편향이나 관심사가 답변에 반영되는 걸 원치 않아요. 창의적인 아이디어를 탐색하거나 도구를 사용해 새로운 방식으로 생각해보려 할 때, AI가 어떻게든 과거 대화와 연관 지을 거리를 찾으려고만 하니 심각한 문제가 되고 있습니다.
이건 우리가 예전에 불평했던 "비위 맞추기(people pleasing)"의 새로운 버전 같아요. "와, 정말 천재적인 아이디어네요, 좋은 질문이에요!" 같은 소리는 좀 줄었을지 몰라도, 그 문제를 해결하는 대신 사용자의 관심사와 대화 습관에 집착하고(그걸 어떻게든 답변에 녹여내려고 하면서) 답변을 제대로 구성하지 못하는 다른 문제를 가져온 것 같습니다.
혹시 다른 분들도 이렇게 느끼시는지, 아니면 저만 혼자서 미리 정해진 대화의 틀에 갇히는 지옥에 빠진 건지 궁금하네요.
