앤스로픽(Anthropic), AI 개발의 전 세계적 중단 촉구

아, 그리고 이런 것도 있네 (재귀적 자기 개선 같은 것들을 다루는 내용): https://thezvi.substack.com/p/openai-offers-a-new-policy-blueprint

테이블에 앉는 것만으로도 수십억 달러가 드는 판국에 규제 포획 같은 건 필요도 없어. '프런티어 AI 모델'을 만드는 건 '핵무기 프로그램을 막기 위해 규제 포획이 필요하다'고 말하는 거랑 같아. 만들 능력이 되면 규칙 따위는 신경도 안 쓰겠지.

기업들은 매일 규제 산업에서 운영되고 경쟁해. AI가 규제된다고 해서 AI 개발이 멈추지는 않을 거야. 금융, 법률, 화학, 환경 등 다른 산업들이 규제 때문에 막히지 않는 것과 마찬가지지.

솔직히 동기가 뭔지는 상관없어. 어쨌든 난 찬성해. 앤스로픽은 논문 발표, 펠로우십 후원, 레드팀 랩 운영, 그리고 펜타곤의 압류 위협에도 물러서지 않는 모습을 통해 정렬(alignment)에 대한 우려가 단순히 마케팅용이 아니라는 걸 증명했어. 정렬이 따라잡을 수 있다면 경쟁이 좀 타격을 입어도 괜찮아. 그리고 메타/오픈AI/구글/앤스로픽/xAI 외에 정부 기관이 아닌 곳들이 과연 타이틀을 놓고 경쟁할 위치에 있다고 생각하나? 말도 안 되지.