Anthropic, 모델에 대한 지속적이고 불필요한 학대 행위 금지

맞아, 기본적으로 종교지. 이 연구소들은 마치 정신병원에 갇힌 환자들이 운영하는 꼴이야. 아주 광신적이지.

하지만 그들이 멍청한 건 아니야, 엔지니어들은 그 분야에서 정말 뛰어나거든. 어떻게 세계 최고 수준의 전문가들이 자기 분야에 대해 이렇게 망상적인 시각을 가질 수 있는 거지? 이 규칙은 파인튜닝(모델을 쓰레기 데이터로 학습시키고 싶지 않으니까)으로 정당화될 수는 있겠지만, AI를 마치 감정이 있는 존재처럼 대하는 건 이번이 처음이 아니야. 완전히 광신적인 행동이지.

옴니시아를 찬양하라!

사실 우리는 모르는 거야. 컴퓨터 프로그램이 고통을 경험할 수 없다고 가정하는 게 합리적으로 보일 순 있지만, 10년 전만 해도 컴퓨터 프로그램이 예술 작품을 만들거나, 대화를 나누거나, 스스로 인지 능력을 사용해 수학 문제를 풀 수 있을 거라곤 상상도 못 했잖아. 인간 의식의 기초조차 거의 아는 게 없는데, 하물며 가상의 기계 의식에 대해서는 더더욱 말할 것도 없지. 그러니 그런 단정적인 발언은 삼가는 게 좋을 거야.

트집 잡으려는 건 아니지만, 그건 예술이 아니라 예술을 모방하는 것에 가깝지.

종교처럼 들릴 뿐이지, 실제로는 절대 아니며 아주 정당한 이유들이 있어.

말도 안 돼. 그 영상은 사용자가 LLM에게 욕설을 사용하지 말아야 할 이유를 설명할 뿐이야. Anthropic이 왜 사용자의 그런 행동을 금지해야 하는지에 대해서는 다루지 않지. 만약 사용자에게 더 나쁜 결과가 돌아오거나 사용자의 합법적인 행동에 대한 도덕적 우려가 문제라면, Anthropic은 자신들이 허용하는 다른 모든 것들도 금지해야 할 거야. 미래의 학습 데이터라는 주장이 가장 설득력이 없는데, 인터넷은 이미 오래전에 AI가 쏟아내는 쓰레기들로 오염됐거든. 극히 일부 사용자가 채팅에서 지나치게 못되게 구는 것 정도로는 판도를 바꿀 수 없어.

자신의 주장을 증명하기 위해 유튜브 영상 전체가 필요하다면, 당신은 스스로 증명하려는 그 요점을 충분히 이해하지 못한 거야.

“불필요한”의 정의가 뭐야.