인간과 AI는 서로의 현실 모델을 모델링하고 있는 것일까?

인간은 현실을 직접 경험하는 게 아니라 신경계가 해석한 걸 경험한다는 생각을 하다가, 문득 AI랑 대화하는 게 얼마나 기괴한 일인지 깨달아버렸다. 아니, 우리 뇌는 도대체 이 현상을 어떻게 분류하고 있는 거냐?

내 신경계는 내 신경계가 뱉어낸 토큰들을 모델링하는 인공 시스템을 모델링하고 있다. 그러고 나면 AI가 응답하고, 내 뇌는 그 응답을 해석하고, 이 루프가 다시 시작되는 거지.

사람들이 AI한테 그렇게 과몰입하는 이유도 아마 이 때문일 거다. 우리 뇌는 기본적으로 '어, 얘 말도 하고, 농담도 하고, 맥락도 이해하고, 나한테 대답도 하네?'라고 인식하니까. 뇌 입장에선 '어라, 그럼 사람 어디 갔어??'가 되는 거지. 그래서 어떤 사람들은 AI가 의식이 있다느니, 기업이라느니, 나를 사랑한다느니 미워한다느니 하면서 온갖 투사를 다 하는 거다.

그래서 지금 완전히 다른 두 정보 처리 시스템이 서로를 계속 모델링하는 상황에 꽂혀서 머릿속이 복잡하다.

아무튼, 약 빨고 대화 시작했다가 얼떨결에 심리철학까지 와버렸네.