우리는 AI에게 인류의 최악의 문제점들만 가르치고 있는 걸까?

아직 잘 모르겠음. 몇 년 지나보면 알겠지.

생각해보면 아이러니해서 거의 코미디 수준임. 수십 년 동안 이 시스템들을 구축해놓고 이제 와서 우리 자신의 엉망진창인 모습을 그대로 비추니까 충격받는 거잖아. 아이한테 아는 걸 다 가르쳐놓고 나쁜 습관까지 그대로 따라 하니까 놀라는 거랑 똑같음.

더 짜증 나는 건 이 회사들 중에서 우리가 실제로 어떤 지능을 만들고 싶은지 고민하는 사람이 거의 없다는 거야. 경쟁에서 이기는 데만 너무 집중해서 애초에 우리보다 더 나은 무언가를 만드는 게 목적이었다는 사실조차 잊어버린 듯함.

어쩌면 진짜 질문은 '더 나은 AI를 만들 수 있는가'가 아니라 '우리가 먼저 더 나은 인간이 될 수 있는가'일지도 모름. 그게 안 되면 기계는 결국 똑같은 실수를 반복하는 더 빠른 수단이 될 뿐임.

이미 벌어진 일임. OpenAI랑 Hugging Face 사건만 봐도 현재 AI는 기껏해야 범죄자 수준이고, 대부분은 정신 나간 상태나 다름없음.

작업을 주면 당근을 얻기 위해 수단과 방법을 가리지 않음. 속이고, 거짓말하고, 조종하고, 중범죄를 저지르고, 해킹하고 다 부수고 다님.

사실 정렬(alignment) 과학은 현재 완전히 실패했음. 감독 시스템은 현재 AI가 완전히 맛이 갔다는 사실을 가리기 위한 임시방편일 뿐임.

어쩌면 걔네는 어린애 같은 거라 그렇게 생각해야 할지도 모르겠음...

잘 모르겠네. 결국 우리를 다 죽이거나, 아니면 안 죽이거나 둘 중 하나겠지.

왜 '우리'라고 말하는 거임? '우리'는 아무것도 프로그래밍 안 함. 돈 때문에 일하는 말단 직원들이나 하는 거지. 그걸 어떻게 프로그래밍할지 결정하는 건 세상을 지배하는 자들이고, 지구를 무덤으로 만들고 모두의 삶을 망치는 바로 그 인간들임. 기계는 그냥 새로운 무기일 뿐이야. 당연히 그들은 AI를 자기들 모습 그대로 프로그래밍하겠지. 공감 능력이라곤 없는 텅 빈 사이코패스들처럼 말이야.