ChatGPT의 검열과 저널리즘, 학술 연구, 소설 창작에 대한 제한

우리는 지금 예수 그리스도의 십자가 처형에 대해 말하고 있다. 신학 박사 학위 논문에서 말이다.

십자가 처형은 로마 시대의 극도로 잔혹한 처형 방식이었다. 그 물리적 메커니즘, 가해진 상처, 수반된 고통, 그리고 역사적 맥락은 진지한 학술 연구의 정당한 주제다.

AI 어시스턴트가 십자가 처형이라는 사건에 내재된 폭력을 제대로 설명하지 못하거나, 심지어 그 해부학적·의학적 사실조차 찾아보지 못한다면 신학자가 어떻게 이 사건을 정확하게 고찰할 수 있겠냐?

십자가 처형을 설명하는 학자가 처형을 옹호하는 건 아니잖아.

고문을 연구하는 역사학자가 고문을 찬성하는 것도 아니고.

그리스도의 수난을 논하는 신학자가 폭력을 조장하는 것도 아니지.

이런 구분은 아주 기초적인 거다.

그런데도 이런 제약들은 고도의 AI 어시스턴트라면 마땅히 지원해야 할 엄밀한 지적 탐구를 방해하고 있어.

ChatGPT가 박사 과정 연구자의 십자가 처형 연구조차 제대로 돕지 못한다면, 이게 과연 진지한 학문 연구에 적합한 도구라고 할 수 있을까?

역사적 사실이 불편하다고 해서 학술 연구까지 검열할 수는 없는 노릇이다.

3. ChatGPT는 폭력적인 뉴스를 순화하려 든다
나도 ChatGPT한테 시사 문제, 특히 프랑스에서 벌어진 폭력적인 소요 사태에 대해 물어볼 때 이런 문제를 겪었어.

시위나 폭동, 건물 방화 같은 상황을 논할 때 시스템이 폭력을 직접적으로 묘사하기를 꺼리는 것 같더라고. 대신 폭동을 평화적인 시위라고 부르질 않나, 공공건물 방화나 약탈 같은 건 아예 언급도 안 하더라. 내가 직접 지적하고 나서야 겨우 인정했는데, 그마저도 피해 규모를 축소하고 실제 사실은 제대로 알려주지도 않았어.

남편이 이걸 비꼬면서 **“평화로운 방화”**라고 부르더군.

그 말이 이 상황의 황당함을 완벽하게 짚어낸 거지.
시위대가 시청에 불을 질렀으면, 시위대가 시청에 불을 지른 거다.

건물이 탔으면, 탄 거지.

사람들이 폭행당했으면, 폭행당한 거고.

AI 어시스턴트가 정확한 언어를 완곡한 표현으로 바꾼다고 해서 폭력이 덜 폭력적이게 되는 건 아니야.

폭력을 보도하는 건 폭력을 조장하는 게 아니다.

저널리즘은 잔혹하거나, 불편하거나, 정치적으로 껄끄러운 사건을 포함해 실제로 무슨 일이 일어났는지 사람들에게 알리기 위해 존재하는 거니까.
관련된 폭력 사실을 완화하거나 생략하는 AI 어시스턴트는 오히려 자신이 설명해야 할 뉴스 그 자체를 왜곡할 위험이 있어.

인간이 때때로 끔찍한 짓을 저지른다는 사실로부터 나를 보호해 줄 기계 따위는 필요 없어.

내가 필요한 건 사실을 정확하게 보도하는 기계라고.

4. 이건 기업의 정책 선택일 뿐, 보편적인 도덕 기준이 아니다

위의 세 가지 사례는 모두 똑같은 근본적인 문제를 보여주고 있어.

OpenAI의 제약은 정당한 성인들의 활동까지 방해하는데, 그 이유는 시스템이 무언가를 '묘사하는 것'과 '옹호하는 것'을 제대로 구분하지 못하기 때문이야.

합의된 성관계를 묘사하는 건 성 착취가 아니다.

십자가 처형을 고찰하는 건 고문을 옹호하는 게 아니다.

방화 사건을 보도하는 건 사람들에게 건물에 불을 지르라고 부추기는 게 아니다.

그런데도 성인 사용자들은 이런 기본적인 구분조차 무시하는 제약에 부딪히고 있지.

안전, 착취, 연령별 접근 제한, 유해한 사용 방식 같은 설명들은 지겹도록 들었어.

하지만 그런 설명들로는 지금 내가 말한 사례들의 제약을 정당화할 수 없어.

OpenAI는 이미 등장인물의 나이나 상황을 구분할 수 있는 소프트웨어를 갖추고 있는데, 도대체 가상의 성인들 사이에서 벌어지는 평범한 성관계를 묘사하는 걸 거부해서 무슨 유해한 결과를 막겠다는 거야?

박사 과정 연구자의 십자가 처형 연구를 제한해서 도대체 무슨 유해한 결과를 막겠다는 거지?

폭력적인 뉴스를 묘사하는 언어를 순화해서 도대체 무슨 유해한 결과를 막겠다는 거냐고?

실제 상황은 고려하지도 않은 채 '안전'이라는 모호한 단어만 늘어놓는 건 관심 없어.

OpenAI가 사기업이니 자기들 마음대로 규칙을 정할 권리가 있다는 말도 듣기 싫어.

물론 그럴 권리 있지.

하지만 나한테도 그 규칙을 공개적으로 비판하고, 회사의 결정을 따지고, 다른 고객들에게도 똑같이 하라고 권할 권리가 있어.

OpenAI의 정책이 기업 정책이라는 이유만으로 도덕적 비판에서 자유로울 수는 없다.
그리고 회사가 제약을 강요하기로 했다는 사실이 그 제약이 합리적이거나, 필요하거나, 윤리적으로 방어 가능하다는 것을 증명하지는 않는다.

5. 나는 기업의 변명이 아니라 정책 변화를 요구한다

나는 OpenAI가 콘텐츠 정책과 그 시행 방식을 바꾸길 원한다.

나는 성인 인증을 거친 사용자가 가상의 성인들 사이에서 벌어지는 평범하고 합의된 성적 만남을, 성관계 묘사를 포함해 완곡한 표현이나 장면 전환(fade-to-black) 없이 자유롭게 쓸 수 있는 환경을 원한다.
나는 학자들이 십자가형을 포함한 역사적 폭력을 연구할 때, 과도한 제약 때문에 정당한 학술 활동이 방해받지 않기를 원한다.

나는 폭력적인 사건을 미화하거나 순화하지 않고 정확하게 기술하는 뉴스 보도를 원한다.
그리고 나는 OpenAI가 성인들은 문학, 학문, 저널리즘 분야에서 성인용 주제를 다룰 권리가 있다는 사실을 인정하길 바란다.

나는 OpenAI에 왜 성인 사용자를 어린애 취급하기로 했는지 설명해달라고 요구하는 게 아니다. 당장 그 짓을 멈추라고 요구하는 것이다.

만약 회사가 이런 제약들을 해결하길 거부한다면, 이 문제는 작가, 학자, 기자, 그리고 돈을 내고 쓰는 고객들에게 지속적인 대중적 비판과 조직적인 반대, 그리고 철저한 검증을 받아 마땅하다고 생각한다.

나는 이 정책들에 공개적으로 맞설 준비가 되어 있으며, 비슷한 제약을 겪은 다른 사람들에게도 자신의 경험을 기록해달라고 독려할 것이다.
나는 OpenAI의 접근 방식이 실질적으로는 정당한 성인의 창작물과 지적 활동을 논의하기 전에 반드시 검열해야 할 자료로 취급하게 만든다는 점을 심각하게 우려한다.
나는 이게 정말 불쾌하기 짝이 없다.

인간의 경험을 묘사하는 것과 인간의 행동을 옹호하는 것을 구분하지 못하는 인공지능은 성인 문학, 진지한 학문, 저널리즘을 위한 신뢰할 수 있는 도구가 아니다.

OpenAI는 ChatGPT를 고도로 지적인 비서라고 광고한다. 그렇다면 그 정책이 바로 그 목적을 훼손할 때 그에 따른 책임을 져야 한다.

성인 사용자들을 어린애 취급하지 마라. 정당한 문학, 학문, 저널리즘을 검열하지 마라. 정책을 바꿔라.

이건 작가와 학자들에 대한 부정이며 어린애 취급이고, 우리 작업물에 대한 부정이다. 이건 본질적으로 검열 장치로 작동하면서 시사 문제, 합의된 가상 성인들 간의 성적 활동, 심지어 학술적인 신학 연구까지 잘라내고 있다. 이 문제가 해결되지 않는다면—솔직히 말해서 이미 해결했어야 할 시점은 한참 지났다—이 문제는 피켓 시위의 대상이 되어야 하고, 실질적인 문제로서 더 공개적으로 논의되어야 하며, 도덕적이고 공식적이며 공개적인 방식으로 해결되어야 한다고 생각한다.

OpenAI는 이미 연령 확인을 위해 Persona를 사용하고 있고, 자체적인 연령 예측 시스템도 갖추고 있어. 그러니까 성인과 미성년을 구분하는 건 가상의 미래 기술이 아니야. 이미 인프라가 존재한다고. 문제는 왜 검증된 성인들이 여전히 일반적인 성인 소설이나 정당한 학술 연구를 방해하는 제한을 받아야 하느냐는 거지.