압둘 엘사예드는 AI 일시 중지 후보인가: 그는 버니 샌더스의 AI 일시 중지 제안을 지지하며 중국과의 국제 조약을 촉구함

- 그럼 기업들이 앞다퉈 달려들고 있는 최첨단 분야는 어쩔 건데?

- 거긴 제한을 걸어야지. 완전히 멈춰야 해. 아예 싹 다 멈추라고. 그래, 그럼 그다음엔 어떻게 되는데?

당장 나오는 질문이 이거지. 우리가 멈췄는데 중국이 안 멈추면 어쩔 거냐고?

근데 난 그게 그렇게 심각한 문제라고 생각 안 해. 다들 너무 호들갑이야. 왜 그런지 알려줄게.

지금 최첨단 연구라는 것들 상당수가 그냥 우리 모델 베끼는 수준이거든. 중국 연구 말이야, 중국 연구.

마치 보트로 수상스키 타는 사람 끌고 가는데, 보트 속도를 올리면서 "어, 저 사람 아직도 바짝 따라오네? 더 빨리 달려야겠다" 이러는 꼴이지. 근데 그건 그냥 우리가 끌고 가니까 따라오는 거잖아. 지금 상황이 딱 그래. 걔네는 그냥 우리 기술 베끼는 데 도가 텄거든.

우리가 속도를 좀 늦추면, 중국이 하는 짓 상당수가 최첨단 연구라기보다는 그냥 기술 퍼 나르는 수준이라는 걸 알게 될 거야.

물론 그렇다고 손 놓고 있으라는 건 아냐. 국제 조약이 필요하다고 봐.

중국이랑도 협력해야지. 결국엔, 결국엔 그 수상스키 타던 놈도 수영해서 따라올 테니까. 아, 비유가 좀 산으로 가긴 하는데, 아무튼 결국엔 걔네도 제트스키 타고 우리 따라잡을 날이 올 거란 말이지.

근데 내가 하고 싶은 말은, 우리 모두 인류 보존에는 관심이 있지 않냐는 거야. 그렇지? 중국 사람들도 어쨌든 인간이고, 우리도 인간이니까.

재귀적 자기 개선이 가능한 로봇을 만드는 건, 마치 '판타지아'에서 빗자루들이 스스로 증식해서 난장판 만드는 그 공포스러운 상황이랑 비슷하거든.

우리 중 누구도 그런 꼴 보고 싶진 않잖아. 판도라의 상자를 열었는데 갑자기 AI가 우리 통제 범위를 아득히 넘어서 버리는 상황, 아무도 원치 않지.

그러니까 우리 모두 이걸 제대로 해결해야 할 이유가 있는 거야. 다만 핵무기처럼 인류를 위협할 수 있는 다른 기술들을 다뤘던 것처럼, 어떻게든 서로 협력할 방법을 찾아내야 한다는 걸 명심해야지.

잠재적인 위협을 통제하고, 당장의 눈앞에 보이는 작은 이익에만 매몰되지 말고 인류를 보호하는 데 집중할 수 있도록 서로 머리를 맞대야 한다는 소리야.