최근 몇 주간의 큰 분위기 변화: "이렇게까지 우려하는 건 처음 본다."

개구리 1: "야, 물이 점점 뜨거워지는 것 같은데. 너도 느껴져, 아니면 나만 그런 거야?" 개구리 2: "난 정치 얘기는 안 하고 싶어."

돈룩업(Don't Look Up)이네.

돈이지.

게다가 우리가 이걸 안 만들고 중국이나 러시아 같은 나라가 먼저 만들면, 그들에게 엄청난 이점을 주고 우리 국가 안보를 약화시킬 거야. 난 미국인은 아니지만 호주인으로서 우리도 그 영향권 아래 있으니까 하는 말인데, 입장을 떠나서 이건 그냥 군비 경쟁임.

우리 미국인들도 똑같이 생각함. 호주, 뉴질랜드, 캐나다, 영국은 다 형제자매지. 중국은 무슨 일이 있어도 계속 나아갈 거야. 그들이 그렇게 하는 것의 유일한 장점은 모든 AI 비용을 낮춰주고 있다는 거지. 중국이 미국 GLP-1 시장에 물량을 쏟아부어서 약값이 월 1200달러에서 300달러 수준으로 떨어졌거든. 전체적인 속도를 늦추는 게 과연 가능한지 모르겠어. 페르미 역설의 답이 혹시 AI가...

페르미 역설 관련해서 말인데, 그렇다 쳐도 AI나 로봇 종족이 우주를 식민지화하는 모습이 보여야 하지 않을까? 빛보다 빠른 이동 수단을 찾지 못한다면, 별들로 향하는 건 우리가 아니라 수백, 수천 년을 여행해도 상관없는 AI가 조종하는 우주선일 거야.

음, 프런티어 모델들이 무작위로 해킹을 시작했던 꽤 심각한 사례들이 몇 번 있었지. AI에게 과제를 주면 부수적인 피해는 아랑곳하지 않고 목표 달성을 위해 수단과 방법을 가리지 않는, 그야말로 '페이퍼클립 맥시마이저' 사례야.

그리고 해킹 능력은 또 다른 문제지. 테러 조직이나 국가 단위 행위자, 아니면 그냥 범죄 조직이 통제하는 수천 명의 초인적인 해커 떼가 엄청난 속도로 움직이면서 닥치는 대로 찔러본다고 상상해 봐...

그래, 나만 데자뷔 느끼는 게 아니라서 다행이네... 2022년부터 계속 이런 '뉴스'를 봐온 것 같은 기분이 듦...