앤스로픽 보안 책임자의 꽤나 충격적인 발언

마음에 안 들 수도 있겠지만, 틀린 말이 어디 있음? 이 특정 취약점은 2012년부터 존재했음. 14년 동안 누구든 이론적으로는 그 버그를 악용할 수 있었음. 단지 AI가 그 취약점과 악용 방법을 찾아냈을 뿐임. 이게 AI 탓이라고? 보안이 취약한 코드는 아무도 그게 취약하다는 걸 알아내지 못하는 한 괜찮다는 건가?

이건 마치 내가 만취할 걸 알면서도 친구들에게 만취하겠다고 말해놓고, 나중에 친구들 탓을 하는 거랑 똑같음.

기업들은 누가 먼저 다음 최고의 기술을 개발해서 수익을 챙길지 끊임없이 경쟁 중임.

모든 AI 기업을 서로 다른 F1 경주차라고 상상해 봐. 그중 한 기업이 경주차 뒤에 핵 추진 제트 엔진을 달면 엄청나게 빨라진다는 걸 알아냈음.

첫 번째 기업이 이걸 시작한 이후로, 핵 엔진이 없는 차들이 이기는 건 사실상 불가능해짐. 경쟁이 안 되거든. 하지만 레이스를 계속하려면 자금을 받아야 하니 경쟁력을 갖춰야 함.

그래서 다들 자기 차에 점점 더 큰 핵 추진 제트 엔진을 달기 시작함. 이제 엔진은 너무 커졌고, 매 경주가 수백만 명을 죽일 수 있는 핵 재앙으로 이어질 위험이 있음.

이제 팀들은 규제를 요구하기 시작함. 주최 측은 경쟁을 공정하고 안전하게 유지하기 위해 핵 엔진의 크기와 출력을 제한하는 명확한 규칙을 만들어야 함.

어떤 팀도 스스로 엔진 크기를 줄이지 않을 거임. 다른 팀들이 안 줄일 테니까. 따라서 혼자 줄이면 절대 이길 수 없음. 유일한 해결책은 모두가 강제로 줄이게 만드는 것뿐임. 앤스로픽이 규제를 요구할 때 하는 말이 바로 이거임.

그 사람 말이 맞음. AI 리더들은 수년간 공개적으로 경고를 해왔고, 그때마다 투자자들을 속이려는 헛소리 취급을 받았지. 이제 경고가 현실이 되니까, 예전에 비난하던 사람들이 왜 진작 말 안 해줬냐고 따지는 꼴임.

실리콘밸리나 그 경영진들을 좋아하진 않지만, 객관적으로 그들이 의회나 전 세계를 돌며 규제를 요청하는 증언 영상을 보면 알 수 있음.

18개월 뒤에 무슨 일이 벌어질까?