AI가 정말로 인류를 멸망시킬 거라고 생각함?

기술이 (스스로든 누군가의 지시든) 인류 멸망을 초래할 거라고는 생각 안 하지만, 인류 멸망을 논하는 상황에서 그럴 확률이 5%가 넘는다면 그건 매우 높은 수치임.

이 시스템들의 능력이 우리가 책임감 있게 사용할 수 있는 범위를 넘어서고 있다는 건 확실하고, 누군가 (의도적이든 실수든) 재앙을 일으킬 거라고 예상함. (예를 들어, 워너크라이를 감기처럼 보이게 만들 정도의 컴퓨터 바이러스나 웜 같은 거)

아니. 전혀 아님. AI의 병목 현상은 항상 하드웨어와 비용이지, 지능이 아님. 현재 경제성으로는 수익을 내기도 빠듯함. 소비자용 코딩 플랜을 감당할 컴퓨팅 자원조차 거의 없음.

최근 뉴스들은 규제에 관한 거라고 봄. 프런티어 연구소들은 여전히 보조금을 받고 있고, 오픈 소스가 그들의 수익을 갉아먹고 있음. 그들은 경쟁자들의 주머니로 들어가는 수익을 차단하려고 규제를 원하는 거임. 간단함.

난 그걸 '전처'라고 부름

아니, 내 생각엔 거대 AI 기업들이 이런 주장을 하는 건 AI가 너무 강력해져서가 아니라, 인위적으로 발전 속도를 늦추려는 거야. 사실 더 이상 발전할 게 없거나 비용이 너무 많이 드는데, 주주들은 달래야 하니까. 그래서 마치 엄청난 게 곧 나올 것처럼 허풍을 떠는 거지, 실제로는 아무것도 없으면서.

아니. 우린 이미 AGI 단계에 도달했거나 거의 다 왔어. 그래서 기술을 무모하게 다루는 놈들한테 고소당할 위험이 커지고 있지. 규제 아래에 있으면 "야, 우린 정부 규정 지키면서 운영 중이야"라고 말할 수 있으니까 소송에서 방어하기가 훨씬 수월해지는 거지.