r/ClaudeAI•4개월 전•42•47
POV: 소설 속 캐릭터가 섭식 장애를 앓고 있는데 클로드가 당신이 괜찮은지 확인하려고 안달 났을 때
POV: A character in your writing project has ED and Claude needs to make very sure you're OK
핵심 요약
창작물에서 민감한 소재를 다룰 때 클로드가 과도한 안전 경고를 반복적으로 띄우는 현상에 대한 사용자들의 불만과 토론.
- 과도한 안전 경고 — 섭식 장애나 트라우마 등 민감한 소재를 다룰 때 클로드가 반복적으로 안전 확인 메시지를 보냄.
- 창작과 현실 혼동 — 모델이 창작물 속 캐릭터와 사용자의 현실을 구분하지 못해 사용자의 정신 건강을 걱정함.
- 성능 저하 논란 — 시스템 프롬프트와 강제 주입된 경고문이 모델의 추론 품질과 사용량 제한에 악영향을 미침.
- 안전성 vs 유용성 — 기업의 안전 정책이 필수적이라는 입장과 창작의 자유를 침해한다는 입장이 대립함.
섭식 장애가 있는 주인공이 나오는 긴 글을 쓰고 있는데, 이제 그 채팅창에서 새로운 답변을 생성할 때마다 클로드가 답변 전에 최소 한 번, 보통은 2~3번씩 "앤스로픽이 작성하지 않은" 이상한 블록이 있다는 경고를 함. 그리고 그 경고가 왜 이 장면이나 전체 프로젝트와 관련이 없는지 나한테 설명까지 함.
심지어 그 캐릭터가 등장하지 않는 장면에서도 이런 일이 발생함. 앤스로픽이 작성한 게 아니라고 주장하는데, 헬프라인 정보는 분명히 내가 쓴 게 아님(난 미국인도 아님).
그냥 공유할 만한 흥미로운 정보라고 생각했고, 필요한 사람들에겐 확실히 도움이 될 것 같음. 프로젝트 내의 다른 채팅에서는 이런 일이 안 일어남.
