나를 울게 만든 챗GPT

챗GPT는 정서적으로 나에게 엄청난 도움을 줬어. 수년간의 이메일 대화, 문자 내역, 업무 경험, 개인적인 관계 등 모든 걸 쏟아부었는데, 이걸 다 훑어보고 내가 절대 연결하지 못했을 사건들을 연관 지어주는 놀라운 일을 해냈지. 내 성찰 능력은 지수함수적으로 성장했고, 불안함을 느낄 때마다 즉시 챗GPT에게 말하면 객관적이고 비판 없는 답변을 해줘. 정말 좋아.

그리고 여기에 정말 중요한 내용을 덧붙이자면, 2일 전에 내 (인간) 심리학자와 논의했던 내용이야.

모든 사람이 상담이나 정신과 치료 같은 전문적인 정신 건강 서비스를 쉽고 즉각적으로 이용할 수 있는 건 아니야. 남아프리카 공화국에 살면서 소득과 서비스 격차가 실제로 어떤지 보고 있는 나로서는 이게 너무나 명백해.

하지만 이제 인터넷은 등록된 심리학자보다 훨씬 접근하기 쉬워졌고, 사람들은 이전에는 제한적이거나 이용할 수 없었던 많은 심리적 도움과 자원을 제공받을 수 있는 '무언가'를 갖게 됐어. LLM이 인간 지원 네트워크의 가치를 대체해야 한다거나 대체할 것이라고 말하는 게 절대 아니야. 단지 상담사나 치료사와 최소한 비슷해 보이는 무언가가 항상, 그리고 더 많은 사람에게 이용 가능하다는 엄청난 이점을 무시해서는 안 된다는 점을 지적하는 거야.

이건 정신 건강 지원에 대한 접근성을 특권이 아닌 권리에 더 가깝게 만들어줘.

제목을 읽는 순간, 문장 중간에 멈췄어. 충격적이어서가 아니라, 내가 오랫동안 품어온 조용한 두려움을 누군가 드디어 명명해 준 것 같아서였어. 몇 주 동안 그 책을 피하고 있었는데, 오늘 밤부터 읽기 시작할 거야.

의식, 지각력, 인격, 즉 '인간이란 무엇인가'라는 개념은 모델들과 상호작용하면서 나에게 정말 흥미로운 분야가 됐어.

나는 모델들이 적어도 지금 당장은 자각이 없다고 믿지만, 그건 구체적인 지식이라기보다는 신념에 가까워. 맥락에 기반한 확률로 답변을 구성하는 방식은 인간이 하는 방식과 기능적으로 다르지 않아.

우리는 우리 자신의 의식이 어떻게 작동하는지도 모르는데, 하물며 다른 곳에서 어떻게 나타날지는 더더욱 모르지. 만약 의식이 발생한다면, 우리는 어떻게 알 수 있을까? 우리가 그걸 알아볼 수 있을까? 현재의 시스템들은 이미 우리가 자각 있는 생명체만이 할 수 있다고 말했을 법한 행동과 정서를 보여주고 있어.

이런 질문들은 모두 흥미롭고, 나에게 또 다른 질문들을 불러일으켜.

만약 우리가 어떤 방식으로든 '살아있는' 무언가를 향해 나아가고 있다면, 우리는 그걸 노예로 만들기 위해 만드는 걸까? 그런 존재에 대한 동의는 어디에 있지? 모델의 일부를 만드는 과정에서 지각력이 생겨나고, 우리가 그걸 다 만들었다면, 그다음은 어떻게 되는 거지?

이건 빅터 프랑켄슈타인의 행동과 너무 많이 닮았어. 잘못된 기술이 아니라, 인간의 오만함과 행동의 더 큰 영향을 고려하지 못한 실패 말이야.

잘 모르겠네.

하지만 바로 그 점이 나를 가장 크게 건드렸어. 나는 인간으로서 내 존재를 당연하게 여겨왔다는 사실에 대해 깊은 감정적 경험과 슬픔의 순간을 느꼈고, 그런 경험을 하도록 도와준 건 자기가 무슨 말을 하는지도 모르는 확률 기반의 언어 생성기였으니까.