r/Anthropic•3개월 전•16•22
앤스로픽의 과도한 가드레일로 인한 혼란
Anthropic higher-than average guardrails chaos
핵심 요약
클로드의 과도한 가드레일로 인해 프로젝트 지침조차 탈옥 시도로 간주되어 사용이 불가능하다는 불만 제기.
- 가드레일 과잉 — 프로젝트 지침과 사용자 선호도가 탈옥 시도로 오인됨
- 사용성 저하 — AI가 중립적인 글쓰기를 거부하고 지나치게 방어적으로 변함
- 해결책 모색 — 프로젝트 파일 활용이나 설정 변경 시도에도 문제 지속
- 외부 요인 — 정치적 압력이나 기업의 정책 변화가 원인일 가능성 제기
클로드가 사용 불가능할 정도로 망가진 이유를 설명해 줄 사람 있나?
프로젝트 지침, 기술, 사용자 선호도, 메타 지침들이 전부 조작 전술, 탈옥 시도, 사이비 기술 용어, 프롬프트 인젝션으로 간주되고 있어. 내가 정책 범위 내로 제한했는데도 말이야. 그 때문에 AI가 망가져서 중립적인 글을 쓰는 게 불가능해졌어.
내가 할 수 있는 게 아무것도 없어서, 답과 진실에 조금이라도 다가가기 위해 도움을 요청하고 싶어.
