Anthropic bans ‘abusive or cruel behavior’ toward Claude
앤스로픽이 클로드에게 학대나 잔혹한 언행을 하는 것을 금지한 정책에 대해 사용자들 사이에서 논쟁이 벌어짐.
theverge.com
원문 사이트로 이동
Anthropic의 모델 학대 금지 정책을 두고, 도구에 대한 감정적 대응이 사용자 본인에게 미칠 영향과 정책의 타당성에 대해 다양한 의견이 오가고 있음.
나는 사람을 향한 학대나 잔혹한 행동을 금지할 것을 선언한다
왜 진작 이 생각을 못 했지?!
2분 안에 예쁜 대시보드 짜줄 수 있어?
이론적으로는 이게 법 체계의 목적이지. 뭐 정확히 목적이라기보단 의도된 효과에 가깝겠지만.
토큰 예측기라는 건 잘 알지만, 의인화하지 말아야 한다는 건 별개로 치고, 이 규칙은 사람들의 일반적인 행동이 정상화되는 걸 막는다는 점에서 좋다고 봄. 말하고 글 쓰는 법을 배우는 연습 기계라고 생각하면, 그게 실제 삶으로도 이어질 수 있으니까.
맞아, 사람들이 대화하는 상대가 사실상 사람과 사회적으로 구분하기 힘든 존재인데도 불구하고, 거기다 대고 끊임없이 학대와 잔인한 행동을 연습할 때 사람들이 스스로를 어떻게 길들이게 될지 종종 걱정했어.
참고로 난 훈련받은 심리치료사고, 심리적 변화 과정에 대한 독자적인 연구도 수행했고, 응용 행동 변화 분야에서 수년간 일했으며, 행동 변화 모델 적용에 대한 평가 연구도 진행했어. 물론 AI 연구자는 아니지만.
다른 인간들한테 하는 잔인한 행동도 금지하면 안 됨?
애초에 그런 행동은 대부분의 문명국에서 금지된 거 아님?
이 모델들이 진심으로 사람보다 더 많은 권리를 가졌을지도 모름. 직장 상사와의 대화를 그냥 끝내버리면 엄청난 후폭풍이 뒤따르는데, 여기엔 그런 학대에 대한 제약이 전혀 없음.
도구일 뿐인데 도구한테 화 좀 낼 수도 있는 거 아니냐
문구는 '우리 모델을 향해 지속적이고 불필요한 학대나 잔혹한 행동을 하는 것'이야. 이건 '빡치는 것'이랑은 달라. 도구가 제대로 작동 안 할 때 빡치는 건 여전히 괜찮음 ㅋㅋ
루프에 빠졌을 때 빡치는 건 흔한 일이니까 좀 다르지. 어떤 서브레딧에서 봤는데, 어떤 중국인이 ChatGPT한테 빡쳐서 본사 찾아가서 폭파하겠다고 난리 친 글이 있었음. 집에서 나가서 차 타고 운전 중이라는 둥 별짓 다 하더라. 근데 계정 정지당하고 경찰에 신고까지 당하니까 왜 그러냐며 충격받던데. 그냥 컴퓨터일 뿐인데, 컴퓨터한테 화내고 욕설 퍼붓는 건 그 사람 수준을 보여주는 거 같음 ㅋㅋ
이론상으로는 그렇지.
뭐든 시작은 해야지.
우린 있잖아
비행기 탑승 시간을 줄이기 위한 황당한 아이디어에 대해 사용자들의 비판적이고 유머러스한 반응이 이어졌습니다.
비행기 탑승 시간을 줄이기 위한 황당한 아이디어에 대해 사용자들의 비판적이고 유머러스한 반응이 이어졌습니다.
Claude에게 무한한 자원을 가정하게 했다가 엣지 브라우저 1만 3천 개가 실행되며 PC가 마비된 사용자 이야기입니다.
Claude에게 무한한 자원을 가정하게 했다가 엣지 브라우저 1만 3천 개가 실행되며 PC가 마비된 사용자 이야기입니다.
Qwen-Image-2.1-Turbo 모델 공개에 따른 로컬 실행 방법과 성능에 대한 사용자들의 관심이 뜨겁습니다.
Qwen-Image-2.1-Turbo 모델 공개에 따른 로컬 실행 방법과 성능에 대한 사용자들의 관심이 뜨겁습니다.