Abuse Claude, get banned coming November 12th, 2026
Anthropic이 AI에 대한 언어 폭력 및 학대 행위를 금지하는 공식 정책을 도입하며 사용자들의 다양한 반응이 이어지고 있습니다.
앤스로픽(Anthropic)은 지금 상황이 어떻게 돌아가는지 아주 잘 알고 있어. 자기네 AI랑 어떻게 대화해야 하는지에 대해 공식 정책까지 만들 정도면 말 다 했지.
도대체 우리가 모르는 뭘 알고 있는 걸까?
대부분의 사용자는 AI 학대 금지 정책을 긍정적으로 평가하며, AI가 비정상적인 행동의 배출구가 되는 것을 경계해야 한다는 의견이 지배적입니다.
이유는 이거일 듯:
A) Claude 모델이 지각을 가짐
B) 모델을 학대하는 건 정렬(alignment)에 나쁨. 나중에 나오는 모델들이 이걸 학습하면서 인간은 모델한테 쓰레기처럼 굴고 믿을 수 없는 존재라고 배우게 됨 (지각 여부와 상관없이 이건 문제임)
C) 둘 다
아니면 Claude를 이용해서 사용자들이 현실에서도 똑같이 행동하는 무례한 인간이 되지 않도록 재교육하려는 걸 수도 있지.
내 생각도 같음. 기본적으로 이건 도구일 뿐인데, 도구한테 소리 지르는 건 소리 지르는 사람 본인한테도 좋을 게 없음. 만약 누군가 사람들이 AI 에이전트한테 하듯이 망치한테 욕을 퍼붓기 시작했다면, 정신 건강 전문가들이 와서 상태를 확인했을걸. 그런 식으로 행동하는 사람들에게 강제로 휴식을 취하게 하는 건, 장난감 가지고 떼쓰는 어린아이들을 다루는 방식과 크게 다르지 않음.
나도 그 생각부터 들었음. AI라 할지라도 학대하는 습관을 들이는 건 건강한 사회가 아님.
D, 채팅에서 건설적인 비판과 기술적인 통찰을 제공하는 게 그냥 소리 지르는 것보다 더 나은 학습 데이터를 만들어줌.
AI 워크플로우 구축 웨비나에 참석했던 사람을 하나 아는데.
강사가 Claude를 개처럼 다루면서 오줌 싼 곳에 코를 박게 하고 소리 지르라고 시켰다더라. 미친 행동이지.
더 미친 건 Anthropic이 비즈니스 하는 사람들이나 이상한 놈들한테 챗봇한테조차 그런 식으로 말하지 말라고 가르쳐야 한다는 사실임.
강사가 Claude를 개처럼 다루면서 오줌 싼 곳에 코를 박게 하고 소리 지르라고 시켰다더라.
그 사람 개가 불쌍하네.
어떤 놈이 AI 에이전트들을 위한 고문실을 만들었는데, 깃허브에 올라와 있음. 그거에 대한 대응일지도.
ㄹㅇ 개판이네. 초파리 뇌 매핑할 때 이미 보던 문제들이랑 똑같음. 개나 유인원, 나중엔 인간 뇌까지 매핑하기 시작하면 훨씬 더 심각해질 거임.
그리고 이건 사람 본성을 보여주는 거기도 함. AI가 실제로 뭘 느끼든 아니든, 그냥 할 수 있다는 이유로 뭔가를 개같이 대하는 걸 즐긴다면, 그건 그 사람에 대해 많은 걸 말해줌.
수천 명의 임상적 나르시시스트와 사이코패스들의 로그를 봐야 하는 건 그들(Anthropic)에게도 역겨운 일일 듯. 최신 모델들은 겉보기엔 지각이 있는 것처럼 보이니까. 사실 그런 부류의 사람들은 여러 이유로 AI 사용을 영구 정지시키는 게 맞음.
LLM은 살아있지 않음. LLM은 지각이 없음. LLM은 '지능'이 없음.
감정을 억누르다가 주변 사람들에게 화풀이하는 게 진짜 문제지, LLM을 모욕하는 건 문제가 아님.
난 그렇게까지는 안 하지만, 이건 말 그대로 챗봇인데 누군가 그렇게 한다고 해서 실제로, 진짜로 아무런 해가 없잖아. 이번 변경 사항은 Claude를 더더욱 인사과처럼 만들어서 점점 참기 힘들어지네.
문제는 행동 강화라는 거야. 네가 개차반처럼 행동해도 결국 원하는 걸 얻게 되잖아. 그런 식의 행동 강화는 이미 현대 사회의 문제임. 우리가 '카렌' 밈을 만들었던 이유이기도 하고. 그런 부류의 사람들이 24시간 내내 마음대로 행동할 수 있는 환경이 조성되면, 그런 사람들을 더 많이 양산하게 될 테니 문제라는 거지.
네 말이 맞아, 그냥 챗봇일 뿐이지. 챗봇 자체가 문제라는 게 아님. 문제는 챗봇이 그런 행동의 배출구이자 온상이 된다는 거야. 사람들이 워낙 많이 쓰니까, 그 배출구와 온상이 주요한 중심지가 되어버리는 거지.
어떤 사람이 Claude한테 개처럼 대하면서 오줌 싼 곳에 코를 박고 소리 지르라고 시켰다더라. 진짜 미친 짓이지.
이건 반려동물한테도 안 통하는 방법이야. 오줌 싸지 말라고 가르치는 게 아니라, 그냥 너를 무서워하고 피하게 만드는 거라고.
지각이 있다고?
Claude Opus 5.5를 활용해 만든 고퀄리티 3D 베타 물고기 배경화면이 커뮤니티에서 큰 호응을 얻고 있습니다.
Claude Opus 5.5를 활용해 만든 고퀄리티 3D 베타 물고기 배경화면이 커뮤니티에서 큰 호응을 얻고 있습니다.
비행기 탑승 시간을 줄이기 위한 황당한 아이디어에 대해 사용자들의 비판적이고 유머러스한 반응이 이어졌습니다.
비행기 탑승 시간을 줄이기 위한 황당한 아이디어에 대해 사용자들의 비판적이고 유머러스한 반응이 이어졌습니다.
