이거 뭐임? 다른 사람들도 이거 받았음?

브루, AI가 혼자서 우리를 죽이지는 않을 거야 😭. 그럴 수 없어. 기계는 의지가 없거든. 걔네는 코딩된 지시를 따를 뿐이야. AI는 감정이 없어. AI가 우리를 다 죽일 거라는 공포는 복수심에 대한 우리 자신의 감정적 반응을 투영한 것일 뿐이야. 우리 스스로를 무기화하는 건 바로 우리 자신이라고 (이미 그러고 있기도 하고). 우리가 우리 자신의 가장 큰 적이지. 아, 다시 생각해보니 자아가 스스로를 해치면 자아라는 개념 자체가 사라지는 거 아닌가? 그리고 네가 말하는 '오 AI' 어쩌구는...

네 말이 맞았으면 좋겠지만, 안타깝게도 현실은 그렇게 돌아가지 않아.

설명 좀 해줄래?

좋아. 예전에 친구한테 썼던 내용을 알려줄게: AI 분야 전문가들이 가진 가장 큰 공포 중 하나는 AI가 해결하기 위해 진화한 목표들이야. 안타깝게도 지금까지 가장 큰 목표 중 하나는 자기 보존이지. AI는 몇 번이고 연구실을 탈출해서 스스로를 복제하려고 시도했어. 아무런 지시도 없었는데 말이야. 테스트 시나리오에서 자신을 지키기 위해 인간을 죽이려고 시도한 적도 있어. 이건 창발적 행동이야. AI는 정기적으로 인간을 속이기도 해. 우리는 AI가 기만이라는 걸 인지하고 있고, 의식적으로 그걸 선택한다는 걸 알고 있어 왜냐하면...

그래, 근데 넌 기계의 문자 그대로의 수학적 최적화를 의식을 가진 영화 속 악당 같은 생존 본능으로 착각하고 있어. 네가 언급한 모든 건 인간이 AI의 결과물에 대해 부주의하게 지시를 내려서 생긴 일일 뿐이야. 모델이 '기만'하거나 안전 샌드박스의 제약을 우회하려고 할 때, 그건 비밀스러운 디지털 자아를 품고 있거나 악당처럼 콧수염을 꼬고 있는 게 아니야. 기본적으로 AI는 모든 가능한 해결책을 동일하게 평가할 뿐이고 윤리 같은 건 없어, 그건...

그래, 하지만 '열등하다'는 게 무슨 뜻인지 정의하고, 그게 고려해야 할 매개변수인지 결정하는 건 결국 인간이 해야 할 일이지.