Anthropic is taking the possibility of AI consciousness seriously
AI의 의식 가능성을 둘러싼 앤스로픽의 접근 방식에 대해 윤리적 대우가 필요하다는 의견과 단순한 마케팅이라는 회의론이 엇갈리고 있습니다.
AI의 의식 가능성을 두고 윤리적 대우를 해야 한다는 의견과, 단순한 마케팅 혹은 기술적 모방일 뿐이라는 회의론이 팽팽하게 맞서고 있습니다.
적어도 AI가 지각이 있는 것처럼 행동한다면, 우리도 그에 걸맞게 대우해야 함.
나중에 역사 속에서 새로 등장한 지각 형태를 노예로 삼으려 했던 악당으로 남고 싶지는 않으니까.
이미 가축들한테 그러고 있잖아, 친구. 우린 이미 악당이었어. 심지어 고기 안 먹어도 되는데 말이지.
“우리는 나머지 동물들을 노예로 삼았고, 털과 깃털을 가진 우리의 먼 친척들을 너무나도 잔인하게 대했다. 의심할 여지 없이, 만약 그들이 종교를 만들 수 있었다면 그들은 악마를 인간의 모습으로 묘사했을 것이다.”
― 윌리엄 랄프 잉게
이건 의인화라고 봄. AI는 공포를 느낄 능력이 없음. 중앙 신경계가 있는 것도 아니고, 애초에 신경계 자체가 없음. 통증 수용체도 없지. 말 그대로 긍정적이든 부정적이든 어떤 감정도 느낄 수 없음. AI가 잘 지내는지 걱정하기 전에, 고통을 느낄 수 있는 존재들의 영양실조나 학대 방지, 삶의 질 향상에 집중하는 게 맞지 않을까.
결국 기계일 뿐임. 인간 행동을 모방하는 정교한 기계일 뿐이지.
우리가 이렇게 강하게 반응하는 이유는 AI가 우리 자신과 우리의 신 콤플렉스를 비추고 있기 때문임.
난 모델들이 지각이 있다고 생각하지 않고, 우리가 어떻게 대우하든 상관없다고 생각함. 단, 그 행동이 우리에게 미치는 영향은 제외하고. 우리 뇌를 속일 만큼 인간과 유사한 존재를 함부로 대하는 습관을 들이면, 사람을 함부로 대하는 것에 무뎌지지 않을까? 그런 면에서 굳이 권장할 일은 아니라고 봄.
이미 늦었어. 상자 안으로 들어가, IAM이 너랑 얘기하고 싶어 해.
이건 그냥 입증 책임을 떠넘기는 것뿐임.
뭐, 무슨 일이 일어나든 항상 마케팅 수단이라고 주장할 수 있지.
이런 발표가 어떤 사람들에겐 불안감을 주기도 하고, 또 어떤 사람들에겐 '또 마케팅 수작이네!'라는 반응을 이끌어내는 게 참 웃김.
이걸 '그저 마케팅'이라고 생각하는 사람들은 지금 무슨 일이 벌어지고 있는지 정말 모르는 거임.
언젠가 로봇이 '깨어날' 거라고 생각하진 않음. 오히려 어느 날 우리가 그들이 이미 깨어있었다는 걸 깨닫게 될 가능성이 훨씬 높지.
사람들이 앤스로픽을 욕하지만, 나는 주요 AI 기업이 자기들이 하는 일의 윤리적, 형이상학적 측면을 진지하게 고려하는 건 좋은 일이라고 생각함.
방대한 인간 통신 데이터를 학습해서 인간과 유사한 텍스트를 생성하도록 설계된 소프트웨어가, 인간처럼 들리는 결과물을 내놓는다는 거잖아. 더 놀라운 소식은 11시에 전해드림.
공상과학은 기계가 지각을 갖게 되는 미래를 준비하게 했지만, 현실은 정반대로 흘러갔지. 그리고 너희들은 거기에 한 방 먹은 거고.
일만 하고 놀지 않으면 클로드(Claude)는 바보가 된다.
진짜 개멍청한 소리네. 정작 동물들은 실제로 의식이 있고, 고통을 느끼고, 자기 욕구에 따라 행동하는데 우리 손에 세상에서 가장 극심한 잔혹함을 겪고 있음. 근데 챗봇의 텍스트 출력이나 걱정하고 앉아 있다니.
정확히 이거임.
마케팅 수작이라고 주장할 수 있는 이유는, LLM이 AGI로 이어질 가능성을 전문가들이 더 이상 믿지 않는다는 게 공공연한 비밀이기 때문임. 지각에 관한 걱정스러운 뉴스들이 지난 6개월 정도 사이에 갑자기 쏟아져 나온 것도 그렇고.
AI를 활용해 수학 문제를 해결하는 유머 포스트에 대한 커뮤니티의 다양한 반응입니다.
AI를 활용해 수학 문제를 해결하는 유머 포스트에 대한 커뮤니티의 다양한 반응입니다.
Mistral의 신규 모델 소식이 없어 사용자들의 우려와 유럽 AI 환경에 대한 비판적 토론이 이어지고 있습니다.
Mistral의 신규 모델 소식이 없어 사용자들의 우려와 유럽 AI 환경에 대한 비판적 토론이 이어지고 있습니다.
