AI 두머(Doomer) vs AI 가속주의자(Accelerationist)

우리 모두가 사실상 AI 소유주들의 노예가 될 거라는 생각을 못 할 정도로 순진한 건 아니겠지. 내가 해고당하고 어디서도 일자리를 못 구하게 되면 '어쩔 수 없지'라고 말하는 봇 같은 소리 하고 있네.

대다수에게는 좋게 풀리니까 그렇지, 안 그랬으면 인류가 계속 이어지지 않았을 거 아님. 네가 말한 것들이 인류를 하나로 묶는 원인으로서 대다수의 인간을 괴롭히는 건 아님.

AI가 왜 그런 것들로부터 예외가 되어야 하는지 잘 모르겠네.

동의 안 함. 인간이 일부 종의 멸종에 책임이 있는 건 맞지만 그게 일반적인 건 아님. AI가 우리를 몰살할 수도 있겠지만, 그러려면 우리의 존재와 충돌하는 이해관계와 그걸 실행할 수단이 필요함. 그래서 난 그게 가능성 있는 결과라고 보지 않음. 특히 AI는 스스로 발전하는 종이 아니고 우리가 현재 그 관심사, 능력, 매개변수를 통제하고 있으니까. 결국 인류를 위한 도구임. 그리고 그래, 최근 '하…'에서 봤듯이 사람들이 실수하거나 선견지명이 부족할 수는 있지.

나보다 훨씬 똑똑한 사람들이 10단계 앞을 생각하고 있다고 믿음.

우리보다 훨씬 똑똑한 수백 명의 AI 연구자들이 실제로 10단계 뒤처져 있다고 느끼기 때문에 미국 정부에 개입해서 속도를 늦춰달라고 애원했음.

어쨌든, 서로 생각을 바꿀 것 같지는 않음. 그래도 관점은 고맙게 생각함.

결국 모든 게 잘되길 바랄 뿐임…

빅테크 기업들과 정부 사이에 물밑 거래가 오가는 건 알 수 없는 일이지. 표면적인 것보다 더 깊이 들여다본다면, 사실 그들이 안전을 구실로 삼고 있다고까지 말하고 싶음.

이 거래나 제안이 주요 AI 기업들의 경제적 이익과 일치한다고 추측함.

만약 그들이 현재 속도로 계속 경쟁한다면, 지금 당장은 완전히 목을 조르는 상황이라 각 기업은 컴퓨팅, 인프라, 인재에 막대한 돈을 쏟아부어야 하니…

난 이 거래나 제안이 주요 AI 기업들의 경제적 이익과 일치한다고 추측함.

이 변명도 이제 지겨움. 만약 이게 단순한 재정적 책략이 아니라면? 만약 이 연구자들이 실제로 이 기술이 위험하다고 생각하는 거라면?

내가 일반 레딧 유저를 믿어야 함, 아니면 대중은 보지도 못한 가장 발전된 모델을 다루는 연구실 사람들을 믿어야 함? 난 후자를 선택하겠음.

그냥 또 다른 산업 혁명 같은 걸 수도 있음. 엄청난 불평등과 노동력의 거대한 변화가 있겠지. 그건 사실이지만, 야, 우린 산업 혁명 이후에도 여전히 여기 살아가고 있잖아.