하라리, AI가 머지않아 인간을 미래의 소로 전락시킬 수 있다고 경고

"너는 그저 사무실을 받아들였을 뿐이지... 나는 그 안에서 태어났다고! 그 안에서 빚어졌지!" - 어느 고급 토스터기

이미 벌어지고 있는 일임.

아무도 알고리즘이 어떻게 작동하는지 모르는데, 알고리즘이 우리 결정의 상당수를 좌지우지하고 있잖아.

알고리즘은 대규모 사회 공학을 수행할 가능성이 있고 (이미 하고 있을지도 모름).

댓글에 긁힌 인간들이 너무 많네.

그냥 한 걸음 물러나서 그가 당신을 소라고 불렀다고 화내기보다는 그가 무슨 말을 하는지 깨달아봐. 제발 좀.

이거 영화 '이디오크러시'나 '월-E' 줄거리에서 이미 다룬 거 아님? 기술이 인간의 이해를 넘어서 발전해서, 인간이 생각할 필요가 없는 세상이 되고, 결국 인간 지능이 퇴화하는 미래 말이야.

이게 왜 좋은 건지 모르겠음. 그리고 지금까지 LLM은 지들이 뭘 하는지도 전혀 모름. 최근 수학적 돌파구들도 엄청난 규모의 팀이 달라붙어야 가능했잖아.

네 주장은 우리를 소에 비유하는 건데, 이건 비유일 뿐이야. 그가 우리가 진짜 소가 된다고 말한 게 아니라고. AI와 비교했을 때 우리가 소와 같은 처지가 될 거라는 거지. AI는 우리보다 훨씬 빠르게 생각할 수 있고, 실제로 우리가 예상하거나 원하지 않은 일을 저지른 적이 많아. 그나마 로그가 있고 그 행동들이 재앙적이지 않았기 때문에 나중에야 왜 그랬는지 파악할 수 있었던 거지. 항상 그런 행운이 따르지는 않을 거야. AI가 움직이는 속도는 내가 이 답글의 첫 글자를 치는 것보다 훨씬 빠를걸. 이건 하라리가 하는 말을 완전히 잘못 이해한 거고, 너 스스로가 '음메에에'라고 최대한 크게 울부짖는 소라는 걸 보여줄 뿐이야.