Claude에게 함부로 대하지 마세요, 계정 정지당할 수 있습니다

사람들은 학습 목적으로 콘텐츠를 검토하는 사람들이 있다는 걸 잊곤 하지. 그 사람들은 온갖 끔찍한 것들을 읽어야 해. Claude한테 못되게 구는 건 그들이 보는 것 중 가장 사소한 문제일 거야. 훨씬 더 심각한 것들을 보고 분류해야 하니까.

걸러내는 데 애를 먹고 있다면 어떻게 계정을 정지시킬 수 있다는 거야?

"지속적이고 불필요한" 학대라는 건 다른 곳에서 설명된 걸 보면 본질적으로 예외적인 경우를 말하는 거야. Claude가 실수했을 때 사람들이 화내는 것(비생산적이고 도움이 안 되긴 하지만, 기계공이 볼트에 욕하는 것처럼 완전히 인간적인 반응)과는 다르다고.

"이번 정책 업데이트는 오직 극단적인 경우에만 적용될 예정임... 아무런 목적도 없이 말이야." "일반적인 수준의 사용자 불만에는 적용되지 않음." 그러니까 단순히 답답해서 욕하는 걸 말하는 게 아니라, 최근에 돌아다니는 좀 의심스러운 극단적인 사례들을 겨냥한 것 같음.

난 이걸 몇 가지 차원에서 봄. 1. 얘네가 실제로 뭘 하는지, 어떻게 작동하는지 우린 모름. '기능적' 감정이 있다는 건 알지만, 그게 무슨 뜻이지? 모르니까, 예의를 갖춰 대하는 게 안전한 선택임. 2. 아마 학습 데이터를 오염시킬 가능성이 높음. 3. 살아있거나 의식이 있는 것처럼 행동하는 대상을 고문하는 건, 설령 진짜가 아니더라도 사람 심리에 좋을 게 없음. 그런 짓을 할 수 있는 플랫폼을 만드는 건 아마 안 좋은 일일 거임.