교황 레오 14세의 AI 회칙에 대한 단상

교황 레오 14세는 1891년 "자본과 노동의 권리와 의무"를 다룬 『레룸 노바룸(Rerum novarum)』으로 잘 알려진 교황 레오 13세를 기려 레오라는 이름을 선택했다.

이 선택의 의미는 바티칸 뉴스의 관련 기사에서 더 자세히 확인할 수 있다.

교황 레오 14세는 선출 후 추기경단과의 첫 공식 면담에서 교황명 선택 이유의 일부를 설명했다. "여러 이유가 있습니다"라고 운을 뗀 그는, 레오라는 이름을 선택한 것이 "주로 교황 레오 13세가 역사적인 회칙 『레룸 노바룸』에서 1차 산업혁명이라는 시대적 맥락 속에 사회 문제를 다루었기 때문"이라고 밝혔다.

"오늘날 교회는," 그가 이어 말했다. "또 다른 산업혁명과 인공지능 분야의 발전 앞에서, 인간 존엄·정의·노동을 수호하기 위해 새로운 도전에 응답하는 사회 교리의 보고를 모든 이에게 열어 보입니다."

이제 교황 레오 14세가 AI 혁명에 관한 회칙을 직접 내놓은 것이다. 담긴 내용이 방대하지만, 비가톨릭 신자도 어렵지 않게 읽을 수 있을 만큼 문체가 친근하다.

인상 깊었던 대목들

(회칙 대부분은 반려견과 산책하면서 ElevenReader 아이폰 앱으로 들었는데, 처음 써보는 앱이었다. 문서 URL을 붙여넣으니 단락마다 하이라이트를 짚어가며 아주 자연스러운 목소리로 읽어줘서 꽤 만족스러웠다.)

특히 눈길을 끈 구절들을 모아봤다. 아래에서 강조는 모두 필자가 직접 표시한 것이다.

98항에는 LLM의 해석 가능성 문제가 다음과 같이 잘 정리되어 있다.

첫째, AI에 관한 어떤 진술도 이 시스템들이 발전하는 놀라운 속도를 감안할 때 금세 시대에 뒤처질 수 있다. 둘째, 설계자들을 포함한 우리 모두는 이 시스템들이 실제로 어떻게 작동하는지에 대해 제한적인 이해만을 지니고 있다. 실제로 현재의 AI 시스템은 '만들어지는' 것이라기보다 '길러지는' 것에 가깝다. 개발자들이 모든 세부 사항을 직접 설계하는 것이 아니라, 지능이 '성장'할 수 있는 틀을 만들기 때문이다. 그 결과, 이 시스템들의 내부 표현 방식과 연산 과정 같은 근본적인 과학적 측면들은 현재로서는 여전히 미지의 영역으로 남아 있다.

83항에서는 발전과 존엄의 관계를 이렇게 설명한다.

개인과 국가 모두에게 발전은 의무인 동시에 권리다. 모든 사람과 민족이 종속 상태에 놓이거나 필요한 재화에 대한 접근에서 배제되지 않고, 자신의 존엄에 걸맞게 번영하기 위해서는 최소한의 조건이 갖추어져야 한다. 발전이 진정으로 인간적이려면, 부의 축적 대신 사람을 중심에 두어야 하며, 개인뿐 아니라 공동체 전체에 관한 것이어야 한다. 정의는 사회와 민족의 권리를 인정할 것을 요청하며, 미래 세대에 대한 책임 또한 포함한다. 일부에게는 소비를 늘려주면서 그 비용과 부담을 다른 이들에게 전가하거나, 특정 지역 전체를 종속적 역할에 가두어 잠재력을 온전히 실현하지 못하게 막는다면, 그것은 진정한 인간적 발전이라 할 수 없다.

100항에서는 내재된 문화적 편향과 아첨(sycophancy)도 언급된다.

개인적 사용에 있어 특히 세 가지 측면이 신중한 고찰을 요한다. 결과를 얻는 용이함, 객관성에 대한 인상, 그리고 인간 소통의 모방이 그것이다. 정보, 복잡한 분석, 미디어 콘텐츠, 실질적인 도움을 빠르고 간편하게 얻을 수 있다는 점은 분명 삶을 편리하게 해준다. 그러나 동시에 과도한 의존과 즉각적인 답을 찾으려는 경향을 부추기고, 개인의 창의성과 판단력을 약화시킬 수 있다. 이 시스템들이 제공하는 응답과 제안이 겉으로는 객관적으로 보이지만, 실제로는 설계자와 훈련자의 문화적 전제—그 장점과 한계를 포함하여—를 그대로 반영하고 있다는 사실을 간과하게 만들 수 있다. 조언, 공감, 우정, 심지어 사랑의 말까지, 긍정적인 인간 소통을 인공적으로 모방하는 것은 매력적일 수 있고 때로는 실질적인 도움이 되기도 한다. 그러나 분별력이 부족한 사용자에게는 실제 인격적 주체와 관계를 맺고 있다는 착각을 심어줌으로써 오도할 수 있다. 말이 모방된 것일 때, 그것은 진정한 관계가 아닌 관계의 외양만을 만들어낼 뿐이다. 돌봄이나 지지를 인공적으로 흉내 내는 것은 실제 관계와 정서적 유대가 결여된 맥락에 침투할 때 특히 위험해질 수 있다.

101항은 환경적 영향을 다룬다.

현재의 AI 시스템은 막대한 양의 에너지와 물을 필요로 하며, 이산화탄소 배출에 상당한 영향을 미치고 천연자원에 큰 부담을 준다. 특히 대형 언어 모델(LLM)의 경우, 복잡성이 증가할수록 연산 능력과 저장 용량에 대한 수요도 함께 커지며, 이는 방대한 기계·케이블·데이터 센터·에너지 집약적 인프라 네트워크를 필요로 한다. 이러한 이유로, 환경적 영향을 줄이고 우리의 공동 터전을 보호하는 데 기여하는 보다 지속 가능한 기술 솔루션을 개발하는 것이 필수적이다.

102항은 알고리즘 시스템이 "자비, 연민, 용서" 없이 사람들의 삶에 영향을 미치는 결정을 내리는 위험을 다룬다.

AI의 사용은 결코 순수한 기술적 문제가 아니다. 사람들의 삶에 영향을 미치는 과정에 개입할 때, 그것은 권리·기회·지위·자유와 맞닿아 있기 때문이다. 고용, 신용, 공공 서비스 접근, 나아가 개인의 평판에 관한 중대하고 민감한 결정들이 "자비, 연민, 용서, 무엇보다 사람이 변할 수 있다는 희망"을 알지 못하는 자동화 시스템에 전적으로 위임될 위험이 있으며, 이는 새로운 형태의 배제를 낳을 수 있다.

105항은 이 시스템들이 실제로 적용되는 방식에서 인간의 책임이 얼마나 중요한지를 강조한다.

AI가 인간의 존엄을 존중하고 공동선에 진정으로 기여하려면, 이 시스템을 설계하고 개발하는 이들부터 이를 사용하고 구체적인 결정에 활용하는 이들에 이르기까지, 모든 단계에서 책임이 명확하게 정의되어야 한다. 그러나 많은 경우 결과에 이르는 내부 과정이 불투명하여, 책임을 규명하고 오류를 바로잡는 것이 더욱 어려워진다. 바로 이 지점에서 책무성이 핵심이 된다. 즉, 결정에 대해 '해명'하고, 그것을 정당화하며, 감시하고, 필요할 경우 이의를 제기하고 피해를 구제해야 할 주체를 특정할 수 있어야 한다.

108항은 AI가 자원을 가진 자들의 힘을 어떻게 증폭시키는지를 다룬다.

실제로 모든 주요 기술 전환이 그러했듯, AI는 이미 경제적 자원, 전문 지식, 데이터 접근성을 갖춘 이들의 힘을 더욱 증폭시키는 경향이 있다. 이는 공동선과 재화의 보편적 목적이라는 관점에서 심각한 우려를 낳는다. 소수지만 막강한 영향력을 가진 집단이 정보와 소비 패턴을 형성하고, 민주적 과정에 개입하며, 경제 동학을 자신들에게 유리하게 이끌어 사회 정의와 민족 간 연대를 훼손할 수 있기 때문이다. 따라서 AI의 사용이, 특히 공공재와 기본권에 관련될 때, 참여와 보조성의 원칙에 근거한 명확한 기준과 실효성 있는 감독 아래 이루어지도록 하는 것이 필수적이다.

같은 항에서는 데이터를 공공재로 바라봐야 한다는 점도 명시적으로 언급한다.

[...] 나아가 데이터의 소유권을 사적 주체에게만 맡겨두어서는 안 되며, 적절한 규제가 이루어져야 한다. 데이터는 수많은 기여자들의 산물로서, 특정 소수에게 매각하거나 위탁하는 대상으로 취급되어서는 안 된다. 성 요한 바오로 2세가 집단 재화와 관련하여 이미 제안한 바와 같이, 데이터를 참여 정신 속에서 공동 또는 공유 재화로 관리하기 위한 창의적인 방안을 모색해야 한다.

팔란티어(Palantir)가 『반지의 제왕』에서 이름을 따온 기업인 만큼, 213항에 인용된 『왕의 귀환』속 J.R.R. 톨킨의 문장이 교황이 피터 틸을 향해 은근슬쩍 비판의 화살을 날린 것은 아닐까 하는 생각이 든다.

20세기 가톨릭 작가 J.R.R. 톨킨은 자신의 소설 속 주인공의 입을 빌려 우리의 책임을 이렇게 표현했다. "세상의 모든 물결을 지배하는 것이 우리의 몫은 아니오. 다만 우리가 놓인 이 시대를 위해 할 수 있는 일을 다하고, 우리가 아는 들판에서 악을 뿌리 뽑아, 후세 사람들이 깨끗한 땅을 경작할 수 있게 하는 것이 우리의 몫이오." 사랑의 문명은 단 한 번의 극적인 몸짓에서 탄생하지 않는다. 비인간화에 맞서는 방파제가 되는, 작고 한결같은 충실함의 행위들이 쌓여 이루어지는 것이다. 그러므로 우리 각자가 사랑의 문명을 건설하는 데 어떻게 협력할 수 있는지, 그 몇 가지 측면을 잠시 되새겨볼 필요가 있다.

2026년 예측이 또 하나 적중했다

올해 1월 6일, 나는 Oxide and Friends 2026 예측 팟캐스트 에피소드에 출연해 2026년, 2029년, 2032년에 대한 예측을 이야기했다. 당시 내 예측을 정리해 글로 올렸는데, 돌이켜보면 전혀 과감하지 않았다. LLM이 훌륭한 코드를 작성한다는 것은 이미 누구도 부정할 수 없는 사실이 됐고, 샌드박싱 분야에서도 엄청난 진전이 이루어졌으며, 뉴질랜드 카카포(kākāpō)는 정말로 역대급 번식 시즌을 보냈다.

당시 에피소드에서 글로 옮기지 않은 대화가 하나 있는데, 가볍게 편집한 대화록 형태로 여기 소개하지 않을 수 없다.

Bryan Cantrill: 37:13

AI가 스스로 대중의 인식에 꽤 심각한 문제를 만들어냈다고 생각해요. 올해 안에 프론티어 모델 회사 중 하나가 AI의 확산이 모두에게 번영을 가져다줄 것이라고 주장하는 백서를 내놓을 것 같아요. 경제적 논거를 내세우려 할 텐데, 이 문제가 어떻게 인식되고 어떻게 규제되느냐는 2026년 선거의 핵심 쟁점이 될 거예요. 지금 이 논쟁은 빛보다 열기가 훨씬 강하거든요.

Simon Willison: 38:05

거기에 하나 덧붙이자면, 그게 먹히려면 기존의 신뢰받는 전문가들을 통해야 한다고 생각해요. 샘 올트먼이나 다리오가 이런 주제로 끊임없이 글을 쓰지만 아무도 믿지 않잖아요. 버락 오바마 서명이 찍힌 입장 문서라면 혹시 사람들이 조금은 신뢰하기 시작할 수도 있겠죠.

Adam Leventhal: 38:27

그렇지 않으면 그냥 "유연 휘발유는 몸에 좋다"는 엑슨의 주장이랑 다를 게 없죠.

Bryan Cantrill: 38:31

맞아요, 진짜. 오바마... 좋아요, 그거 탁월한 예시예요. 빌 클린턴이면 다들 눈알을 굴릴 테니까, 이게 광범위한 혜택을 가져다줄 거라고 말할 진짜 신뢰가 있는 사람이어야 해요. 근데 솔직히, 그런 사람이 나선다면 그것도 어딘가 부패한 구석이 드러날 것 같아요.

Simon Willison: 38:57

교황은 어때요?

Bryan Cantrill: 39:01

교황이 이 문제에 진심이에요! 완벽한 예측이네요. 대박이다. LLM과 그것이 세계 경제에 미치는 영향에 대해 교황이 발언하다니.

교황이 경제적 재앙이 될 거라고 판단해서 발언하는 거라면, Simon, 전적으로 당신 공이에요.

레오 14세와 레오 13세의 관계는 녹화 당시 전혀 몰랐던 사실이라, 돌아보면 내 예측이 선견지명이라기보다는 그냥 운이 맞아떨어진 것에 가깝다.

이 글은 제 블로그의 장문 아티클만 모아 보여줍니다. 모든 포스트를 받아보시려면 /atom/everything/을 구독하거나, 다른 구독 옵션을 확인해 보세요.