AI의 대부가 인류에게 경고하다: 모든 것이 통제 불능 상태로 치닫고 있다

신 노릇 하느라 바쁘지 말고 수십 년 전에 미리 생각을 좀 했어야지.

사람들은 수십 년 전부터 계속 생각하고 있었음. 유드코프스키는 2000년대부터 이 문제에 대해 글을 썼고, 보스트롬의 책은 2014년에 나왔으니까. 단지 힌튼이나 벤지오 같은 최고 수준의 학자들이 최근(지난 3년 정도)에야 이 사람들이 처음부터 옳았다는 걸 깨닫기 시작했을 뿐임. 스튜어트 러셀처럼 더 일찍 문제를 간파한 학자들도 있었지만(이 문제를 고민하기 위해 연구소까지 설립했지... 하지만 그게 AI 경쟁을 멈추진 못했음).

솔직히 이 사람 좀 실망스럽네. 평생을 바쳐서 연구한 게 (이미 50~60년대 SF 작가들이 위험할 수 있다고 예견했던) 그거라고? 그러고는 커리어 다 끝나갈 때쯤 돼서야 이게 나쁜 생각이었다는 걸 깨달았다고? 그냥 아이작 아시모프나 스탠리 큐브릭, 제임스 카메론, 리들리 스콧한테 전화나 해보지 그랬냐.

프랭크 허버트

뭐가? 내가 보기엔 이미 한참 전부터 모든 게 통제 불능이었는데.

그는 들을 가치가 있는 사람이다.

'AI의 대부'가 도대체 몇 명이나 있는 거야? 하루에 이런 기사를 3개씩은 보는 것 같네.

가장 큰 실질적인 교훈은 안전이 경쟁에 덧붙이는 마지막 스위치가 될 수 없다는 것이다. 독립적인 평가, 명확한 책임 소재, 연구소와 정부 간의 협력이 마지막 순간의 킬 스위치에 모든 것을 거는 것보다 더 실행 가능해 보인다.