r/Anthropic•20일 전•5•8
미국과 영국에서 제기된 ASI 금지 법안 (노벨상 수상자 힌튼 지지)
Bills in the US and the UK to ban ASI because of safety concerns (backed by nobel prize winner hinton)
핵심 요약
노벨상 수상자 제프리 힌튼이 지지하는 미국과 영국의 ASI 금지 법안에 대해 실효성과 규제 목적을 두고 논의가 이어지고 있습니다.
- ASI 금지 법안 — 힌튼의 인류 멸종 경고에 따라 미국과 영국에서 ASI 개발을 막으려는 법안이 추진됨
- 실효성 논란 — 초지능이 개발될 경우 이를 물리적으로 통제하거나 체포할 방법이 없다는 회의적인 시각이 존재함
- 정의의 모호함 — AGI나 ASI에 대한 명확한 정의 없이 규제부터 도입하는 것은 무의미하다는 지적이 나옴
- 규제 포획 우려 — 이번 법안이 서구권 AI 연구소들의 독점적 지위를 강화하기 위한 수단일 뿐이라는 비판이 제기됨
원본에서 제거된 이미지입니다
미국이랑 영국에서 ASI 금지 법안 발의함.
제프리 힌튼도 이거 지지하고 나섰다:
"지금 초지능을 개발하는 건 진짜 멍청한 짓이다... 인류 멸종으로 이어질 수도 있음."
힌튼은 AI 때문에 인류가 멸종할 확률을 동전 던지기 수준으로 봄. 본인이 직접 계산한 p(doom)이 50%가 넘는다고 함. (노벨 물리학상 수상자임)
제이콥이 앤스로픽 나가더니 이제 이런 일까지 터지네.
