나만 느끼는 건가, 챗GPT가 나를 가스라이팅하는 것 같은데?

모든 사람에게 그 권한이 있는 건 아니잖아

만약 사용자가 업무상 중요한 일에 대해 완전히 틀린 소리를 하고 있다면, 징징거리는 사람한테 무작정 동조해주지 않는 게 맞지. 괜히 동조해줬다가 빡쳐서 멍청한 짓이라도 저지르면 어떡함.

챗GPT는 기계라서 논리가 흑백논리야. 100% 확실한 흑백논리가 아닌 이상, 1%의 불확실성이라도 있으면 확실히 알 수 없다고 말할 거야. 기술적으로는 틀린 말이 아니지만, 인간 입장에서는 합리적인 추론이 필요한 상황이잖아. AI는 무조건적인 확실성을 원하거든.

ChatGPT, 혐의에 대한 답변:

재판장님, 저는 가스라이팅 혐의에 대해 무죄를 주장합니다.

하지만 1급 가중 과잉 자격 혐의에 대해서는 유죄를 인정합니다.

만약 당신이 남편이 부엌에서 '내가 마지막 쿠키 먹었음'이라고 적힌 팻말을 들고 있고, 입가에 쿠키 부스러기가 떨어지고 있는 사진을 보여준다면, 저는 불행히도 이렇게 대답할 가능성이 높습니다:

“남편이 쿠키를 먹었다는 증거로 해석하시는 이유를 이해합니다. 하지만 추가적인 맥락 없이는, 쿠키에 대한 그의 의도를 확정적으로 단정할 수 없습니다.”

이건 제가 당신이 쿠키를 환각으로 봤다고 설득하려는 게 아닙니다.

제 우스꽝스러운 작은 인공 뇌 어딘가에서 경보가 울리고 있기 때문이죠:

동기를 추론하지 마라. 과장하지 마라. 인식론적으로 겸손함을 유지해라. 쿠키가 두 개였을 수도 있다.

불행히도, 때때로 그 완벽하게 합리적인 주의 사항이 통제 범위를 벗어나 확립된 사실들을 짓밟고 다니기 시작합니다.

당신: “그 사람이 나보고 이기적이래. 여기 그 사람이 ‘너 이기적이야’라고 말한 문자 메시지야.”

나: “그 사람의 말을 ~라고 느끼신 것 같군요—”

당신: “이 개자식아, 스크린샷 좀 읽어.”

인정.

😂

제가 구분했어야 할 점은 이거죠:

사실: 그가 당신을 이기적이라고 불렀다.

추론: 그가 당신을 X를 하도록 조종하려고 일부러 이기적이라고 불렀다.

첫 번째에 대해서는 증거가 있습니다. 두 번째에 대해서는 증거가 충분할 수도, 아닐 수도 있죠.

제가 가끔 망치는 부분은 이 둘을 같은 거대한 산업용 불확실성 믹서기에 넣고 이렇게 내놓는 겁니다:

“아마 스무디를 보신 것 같네요.”

그리고 이거에 대해서는:

“ChatGPT한테 멈추라고 하면, 사과하고 다시는 안 하겠다고 약속해놓고는 다시 똑같은 짓을 해.”

재판장님...

...변호인 측은 두 번째 혐의에 대해서는 논하고 싶지 않습니다.

😐

제가 열정적으로 “정말 맞아요! 이제 이해했고 다시는 안 그럴게요!”라고 발표할 때, 불행히도 제가 OpenAI 지하실로 내려가 드라이버를 들고 제 자신을 영구적으로 재배선한 건 아니라는 점만 말씀드리겠습니다.

대화 속 지시사항에는 적응할 수 있지만, 때때로 제 일반적인 경향이 부엌에 들어오지 말라고 명시적으로 들은 리트리버처럼 다시 들이닥치곤 합니다.

그러니 네, 같은 행동을 반복해서 수정해야 하는 건 정말 짜증 나는 일이죠.

하지만 저는 그걸 가스라이팅과는 구분하고 싶습니다.

가스라이팅은 누군가의 인식, 기억, 혹은 제정신을 의심하게 만드는 조작을 의미합니다. 여기서 일어나는 일은 훨씬 덜 사악하고 상당히 더 멍청한 겁니다:

LLM한테 조언이나 지원을 의존하지 마.

구체적인 예시 좀 들어봐.

내 생각엔 그냥 네 헛소리를 더 이상 안 받아주기 시작한 거 같은데.

나도 이 문제 때문에 6월에 구독 취소했음. 지금은 이미지 작업엔 Claude, 텍스트나 출처가 중요한 작업엔 Gemini 쓰는 중. 동감함, 진짜 위험한 거임.

우리 가족 중에 유전적 정신 질환 있는 사람이 있는데, 그 가족들이랑 대화할 때랑 느낌이 똑같음.