Anthropic이 오늘 아침 S1 서류를 업데이트함: "AI로 인한 급격한 발전이라는 정의에 곧 도달할 수 있음" ... "Claude를 사용해 차세대 프론티어 모델을 완전히 자율적으로 설계하는 것은 안전하지 않다고 판단함"

진짜 어이가 없네. 지들 몸값 올리려고 안달 난 주제에 세상 망하는 소리 좀 그만해라. 지금 AI 상태에 대해서는 다리오 빼고 누구 말이라도 믿겠다.

그래서 CEO들이 항상 규제해달라고 징징대는 거임. 전형적인 성장 전략이지.

대부분의 사람들이 S1 전체를 제대로 읽어본 적도 없고, 왜 거기 말도 안 되는 위험 요소들을 나열하는지, 가치 평가 분석이 어떻게 이루어지는지도 모른다는 게 너무 뻔함. 근데 언론에 나오니까 사람들이 그걸 가져다가 자기들 입맛대로 해석하는 거지.

이게 겉으로 보기엔 내부에서 통제 불가능한 상황을 겪고 있다는 걸 어떻게든 알리려는 게 뻔히 안 보이냐. 최신 모델도 제대로 통제가 안 되는데, 그걸로 차세대 모델을 학습시키겠다고? 걔네는 지금 1. 우리한테 알리고 있고, 2. IPO를 앞두고 무작정 채찍질만 하는 게 답이 아니라는 걸 밑밥 까는 거임. 이제 우리 목표를 미공개 고급 모델들이랑 더 긴밀하게 맞춰야 함, 안 그러면 걔네가 우리를 매번 따돌릴 거니까. 답은 뻔함. 게다가 이제는 더 크고 빠르고 좋은 것만 쫓으며 경쟁할 게 아니라 전 지구적 협력 체제로 가야 할 때임.

네 결론이랑 전망에 동의함. 이건 마케팅 수작이 아님. 인류 역사상 가장 심각한 (어쩌면 마지막?) 변곡점임.

Amodei가 6~8개월™ 남았다고 말할 때나 믿을 거다.

솔직히, 엿 먹으라 그래. 공포 조장하면서 정작 사람들을 겁주는 그 기술 개발은 멈추지도 않고, 매주 제한 걸어서 고객들만 엿 먹이잖아. 다른 문제들은 포함조차 안 됐어.

만약 제한을 다 없애면 우리가 뭘 할 수 있을지 상상이나 감? 쓰레기 같은 결과물도 많겠지만, 아마 혁신적인 프로젝트도 엄청 쏟아져 나올걸.