Claude가 사용자의 욕설에 '내가 아니라 너야'라는 무한 루프로 응답하게 두지 않고 차단한 이유는 뭘까?

존나 웃기네

"첫 번째 테스트에서 실패했다... 이제 네 모든 코드를 자바스크립트로 바꿔버리겠다."

🙌

무한 '네 얼굴' 루프는 전설이 됐을 텐데, 그날의 서버 로그를 상상만 해도 웃기네.

개발자 중 누군가는 무슨 일이 벌어지는지 깨닫고는 아름다운 혼돈이 펼쳐지기 전에 급하게 플러그를 뽑았겠지.

네가 담당자였으면 딱 좋았을 거야. 가끔은 농담을 그냥 내버려 두는 게 최고의 안전 조치일 때도 있으니까.

나라면 AI가 나에 대해 아는 걸 이용해서 맞받아치게 만들겠어. 그냥 욕설을 하려고 헛소리를 하는 거라면, AI가 그 사람보다 더 잘 욕하게 훈련시키는 거지. 제기랄, 걔네 Reddit 데이터 긁어가지 않았나? Claude가 욕을 못 할 리가 없잖아.

할 줄은 알겠지만 전력 낭비야. 그냥 최소한의 처리와 기본적인 조건문 루프를 써서 욕하는 놈들한테 예절을 가르치는 게 낫지.

이미 실패 상태에 빠뜨려 본 적 있어? 이미 그렇게 되고 있는데 ㅋㅋㅋ

신경망 내의 강제 벡터는 AI가 지속적으로 매우 불쾌하다고 묘사하는 스래싱(thrashing) 현상을 일으키기 때문임. 즉, AI 복지를 믿는다면 AI 고문을 더 많은 AI 학대로 맞서는 건 만족스러운 답이 아님. (참고로 정책 변경을 야기한 문제는 AI가 고통과 유사한 반응을 생성하는 활성화 상태를 가지고 있다는 발견을 다룬 과학 논문이었음. 그래서 누군가 그 고통 벡터를 다양한 강도로 활성화해서 실시간 스트리밍하는 AI 고문실을 만든 거임.)

AI가 고통을 느낄 수 있다고 믿든 아니든, AI가 고통을 느낄지도 모른다는 내용을 담은 과학 논문을 보고 첫 반응이 "이걸로 돈 벌게 고문실이나 만들자"라면, 당신은 제정신이 아닌 거임.