앤스로픽: "AI는 너무 위험해"라고 말하면서, 역사상 가장 위험한 AI 모델을 출시하는 앤스로픽

아니, 이건 완벽하게 반경쟁적인 거야. Anthropic이 맨날 하는 것처럼 '비밀리에 앞서 나가는' 상황이면 어쩔 건데? '그런 시스템이 존재한다면, 다른 개발자들이나 프런티어 수준의 업체들도 검증 가능한 방식으로 속도를 늦추거나 일시 중단한다면 우리도 그렇게 할 것으로 예상한다'는 문구를 봐. (해석: '우린 아마 안 할 거고, 어차피 우리가 할지 말지 결정할 거임') 이 회사들이 현실적이든 아니든 간에 도달하고 싶어 하는 AGI는 'AI가 스스로를 구축하는' 과정, 즉 지속적으로 스스로를 학습시키는 과정 없이는 절대 달성할 수 없어. 우리가 …

그래 친구야, 우리가 지금 말하는 건 지적으로 우리를 추월할 능력이 있는 기술을 다뤄서가 아니라, 그냥 홍보 효과랑 경쟁자 죽이려고 글로벌 일시 중단을 운운하는 거잖아. 말이 되네.

기억나네! 진짜 배신감 느껴진다.

기업 가치가 수천억 달러에 달하는 시점에서 "성장을 멈춰달라"는 건 현실적인 요구가 아니지.

그냥 PR을 제일 잘하는 놈들일 뿐이야. 잘 모르는 사람들한테는 말이지. 나한테는 그런 거 볼 때마다 헛소리처럼 들려. 애플이 자기네 제품에서 모델을 완전히 돌리겠다고 한 거랑 비슷한 시기에 무슨 일이 일어났는지 봐봐. 그러니까...

PR이지. 그리고 2019년쯤의 오픈AI를 반복하는 거야. 걔네도 공개하기엔 너무 위험한 모델(GPT-2)이 있다고 했었지... 그리고 나머지는 다들 알다시피 역사가 됐고.

거의 1조 달러에 육박하는 기업 가치 급등은 실제 인센티브가 어디를 향하고 있는지 말해주지. 안전 프레임워크나 일시 정지 성명서를 아무리 발표해도, 주주들은 회사가 천천히 움직이라고 돈을 대는 게 아니야. 벤처 캐피털리스트들도 실제로 브레이크를 밟으려는 조직에 그렇게 많은 돈을 쏟아붓지 않았을 테고. 이건 테크 업계에서 가장 오래된 수법이야: 시장 지배력을 향해 질주하면서 책임감을 운운하는 거.

야 얘들아, 우리 AI 개발 좀 멈춰야 할 것 같아. 위험하잖아. 아무튼, 여기 위험 요소가 가득한 내 최신 개발품이 있어. 근데 제발 개발 좀 멈춰줘, 내 모델만 쓸 수 있게 해줘, 응? :3

투자자들을 위한 거지.

CEO가 세상에서 제일 최악이고 디스토피아적인 개소리들을 해왔지. 그가 내뱉는 말마다 노동의 파괴를 보며 느끼는 오만한 환희가 가득해! 난 그 인간이 하는 말은 한마디도 안 믿어.