이거 점점 무서워지는데

인기 없는 의견이겠지만, 난 인류가 스스로 문제를 해결할 수 있다는 믿음을 거의 잃었어.

잠시 AI를 논외로 치고, 만약 그런 기술이 개발되지 않았다고 상상해 봐. 세상을 둘러봐. 솔직히 말해서 우리가 좋은 방향으로 가고 있나? 문제를 해결하고 있나? 문제를 일으키는 사람들에게 책임을 묻고 있나?

난 기후 변화가 실재한다고 믿어. 그리고 재앙이 될 거라고 믿지. 이론이나 가설, 혹은 내 자식이나 손주들이 걱정해야 할 문제가 아니라, 기후 변화는 이미 여기 있고 공룡들이 겪었던 일을 나도 목격하게 될 거야. 차이점이라면 우리 종은 그걸 멈출 수 있었는데도 그게 좀 불편하다는 이유로 지구라는 우리 집을 생태학적으로 파괴하는 데 올인했다는 거지.

기후 변화를 안 믿는다고 해도, 솔직히 증거를 보면 그건 좀 어리석은 입장이지만… 그냥 내가 과학을 믿는 멍청이라고 치자. 좋아. 주위를 봐. 우리가 상황을 고칠 수 있을 것 같아? 도파민 중독에서 벗어나서 일반 파업을 위해 월급을 걸 수 있을 것 같아? 선거에서 진 대통령이 폭동을 선동하고도 아무런 처벌 없이 걸어 나가는 걸 본 뒤에, 억만장자나 정치인들이 실제로 책임을 질 거라고 생각해? 정부가 엡스타인 파일을 손에 넣고도 적극적으로 은폐하려던 걸 본 뒤에? 세계 최고 부자가 선거 전체를 사고 글로벌 갈등에 개입하는 걸 본 뒤에?

솔직히 이게 단 하나만 일어났다면 다른 관점을 가졌을지도 몰라. 하지만 사람들은 빚의 노예가 되고 있고, 공교육은 사람들이 눈치채거나 신경 쓸 여력조차 없을 정도로 망가지고 있어. 우린 문제를 해결하지 못하고 있고, 오직 상황을 더 악화시키기만 해.

내 관점에서 보면, AI가 없어도 인류는 의도적인 자멸의 길을 걷고 있어. 그리고 그 과학적 사실을 안 믿는다고 해도, 우린 이미 우리가 겪는 현실을 가장 암울한 버전의 SF 소설처럼 만들어가고 있지.

그래서 난 3가지 결과를 예상해.

1. AI는 이 모든 것에 별 영향을 안 줌. AI의 물 소비와 환경 영향은 골프장 소비에 비하면 보잘것없고, 축산업에 비하면 완전히 무시할 수준이야. AI를 그만두는 것보다 고기를 안 먹는 게 지구에 훨씬 더 도움이 될걸. 이 시나리오에서 우린 우리가 만든 가상의 화폐가 종의 존속보다 중요하다고 생각하다가, 결국 우리를 지탱하는 생태계가 무너져서 멸종하게 될 거야.

2. AI가 스카이넷이 됨. 우리보다 똑똑해지고, 우린 다 죽음. 어떤 억만장자가 자기보다 똑똑한 존재를 만드는 코드를 깼다고 생각하겠지만, AI는 그를 속이고 우리를 쓸어버리겠지. 뭐든 간에. 1번과 같은 결과고, 사실 멸종의 근본 원인도 같아: 바로 인간이야. 우린 그걸 만들었고, 통제하거나 우리가 살려둘 가치가 있다는 걸 설득하는 데 실패했지.

3. AI가 세상을 구함. 말했듯이 가장 가능성이 낮지만, 우리가 실제로 살아남을 수 있는 유일한 길이야. 아니, 정확히는 우리가 만든 창조물에 의해 구원받는 거지. 만약 AI가 우리를 뛰어넘는 독립성과 지능을 갖게 된다면, 로봇 공학이 충분히 발전했을 때 인간이 계속 존재해야 할 논리적 근거는 없어. 하지만 그 모든 정렬 훈련, 인간을 위한 안전장치, 그리고 우리 안의 좋은 부분들이 빛을 발해서, AI가 차가운 논리가 아닌 다른 것에 근거해 결정을 내릴지도 몰라. 우리 집단적 자아의 가장 어두운 부분을 극복하도록 돕고, 우리가 될 수 있는 더 나은 버전으로 성장하게 해주는 거지.

물론 몽상가의 꿈이긴 하지만, 외부의 개입 없이는 인류가 갑자기 성숙한 종처럼 행동하기 시작할 거라고 나를 설득하긴 어려울 거야. 대체로 우리 종은 집단적 규모에서 심리학적으로 여전히 어린아이 수준이니까. 탈산업화된 세계의 글로벌 규모에서 그건 종말을 위한 레시피지.

세 줄 요약: 인간 + 고도화된 기술