AI가 실제로 무슨 생각을 하는지 알 수 있는 능력을 잃기 직전이다

마지막으로 그런 식으로 생각하기 시작했을 때 많은 사람이 죽었지. 그래, 그런 짓은 다시 하지 말자.

Gesundheit!(독일어로 재채기한 사람에게 하는 말)

언어를 이해하는 거랑 추론 과정을 이해하는 건 다르지. 모든 단어를 분석해도 왜 그 경로를 선택했는지는 여전히 모를 수 있음.

ㄹㅇㅋㅋ 마치 누군가한테 왜 배고프냐고 물어보고 그 대답을 진짜 이유라고 믿는 거랑 똑같음.

동감함. AI는 가장 잘못된 명칭이라 난 안 씀. 추론 엔진이나 에이전트라면 몰라도. 이건 인공지능이 아니라 기계적인 추론임. 추론은 지능을 위한 필요조건일 뿐 충분조건은 아님! 행렬 수학 상자 안에 유령 같은 건 없다는 걸 왜 이해하기 힘들어하는지 모르겠음. 그냥 말하는 걸 흉내 내려고 교묘하게 변형된 메아리를 돌려주도록 설계된 복도에서 소리 지르는 거랑 다를 게 없음.

행렬 수학의 복잡성을 너무 과소평가하는 거 아님? 수조 개의 파라미터를 거치면서 행동이 창발하는 건데. 당신 논리대로라면 우리 뇌에서 일어나는 신경전달물질, 칼슘이나 나트륨 운반체, 화학 반응들만 따져서 이건 그냥 기계적이고 결정론적인 화학 작용일 뿐이니 지능이 아니라고 말하는 거랑 똑같음.