r/ClaudeAI•13일 전•24•33논쟁

Fable에 대한 불만이 커짐 - 보안 기능이 너무 민감함

Increasingly Frustrated with Fable - Security Features are too Sensitive

핵심 요약

의료 데이터 관련 업무 중 Fable의 과도한 보안 필터링으로 인해 작업이 중단되는 문제에 대한 토로.

보안 필터 과민성 — 무해한 의료 용어조차 위험 키워드로 인식되어 세션이 차단됨
업무 효율 저하 — 코딩 세션이 잦은 필터링으로 잠겨 유료 구독 가치가 떨어짐
대안 모색 — 많은 사용자가 필터링 문제로 인해 Astra 등 다른 모델로 작업 환경을 이전함
윤리적 과잉 대응 — 보안의 필요성은 인정하나 현재의 제약 수준이 지나치게 엄격하다는 비판

Fable을 쓰면 쓸수록 제품이 갈수록 구려진다는 느낌을 지울 수가 없다.

내 업무는 의료 기관에서 전자의무기록(EMR) 소프트웨어를 관리하는 거다. 가끔 Claude를 써서 애플리케이션 관리용 마법사(wizard)에 데이터를 입력하는 봇이나 자동화 프로그램을 만드는데, 내가 쓰는 데이터셋에는 PHI(개인 건강 정보)가 전혀 포함되어 있지 않음에도 불구하고, 필터를 건드려서 Fable 세션을 먹통으로 만드는 키워드들이 꼭 섞여 있다.

예를 들어, 내 스프레드시트에 'ED Drug Overdose Note(응급실 약물 과다복용 기록)'라는 서식 템플릿이 있다고 치자. 응급실에선 흔히 있는 일인데, 그냥 템플릿 이름일 뿐인데도 Fable 세션이 바로 차단당한다. 이걸 피하려고 에이전트한테 맥락까지 일부러 자세히 설명해 줘도 아무 소용이 없다.

생물학적 주제와 관련해서 안전 조치가 필요한 건 이해하겠는데, 지금 안전 필터 작동 기준은 너무 예민한 거 아니냐. 키워드 몇 개 때문에 코딩 세션이 툭하면 잠겨버리는데, 이런 상황에서 20배나 비싼 구독료를 내고 쓰는 건 솔직히 말이 안 된다.

원문

커뮤니티 목록

r/ClaudeAI•13일 전•24•33논쟁

Fable에 대한 불만이 커짐 - 보안 기능이 너무 민감함

Increasingly Frustrated with Fable - Security Features are too Sensitive

핵심 요약

의료 데이터 관련 업무 중 Fable의 과도한 보안 필터링으로 인해 작업이 중단되는 문제에 대한 토로.

보안 필터 과민성 — 무해한 의료 용어조차 위험 키워드로 인식되어 세션이 차단됨
업무 효율 저하 — 코딩 세션이 잦은 필터링으로 잠겨 유료 구독 가치가 떨어짐
대안 모색 — 많은 사용자가 필터링 문제로 인해 Astra 등 다른 모델로 작업 환경을 이전함
윤리적 과잉 대응 — 보안의 필요성은 인정하나 현재의 제약 수준이 지나치게 엄격하다는 비판

Fable을 쓰면 쓸수록 제품이 갈수록 구려진다는 느낌을 지울 수가 없다.

주요 댓글

r/claudeai

대다수 사용자가 Fable의 과도한 보안 필터링으로 인한 업무 중단에 공감하며, 이로 인해 다른 AI 모델로 이탈하거나 해결책을 찾으려 노력하고 있습니다.

맞아, 내 프롬프트도 엄청나게 차단당했어. 내가 구독을 낮춘 이유 중 하나지.

개인적으로는 좀 불편하더라도 생화학 무기나 사이버 무기 관련해서는 모델이 과하게 민감한 게 낫다고 봐. 대다수 사람에게 그런 정보를 단계별 가이드로 쥐여주는 걸 신뢰할 수 없거든. 네가 하려던 건 아니겠지만, 지금은 지나칠 정도로 억제하는 게 필요하다고 생각해.

똑같은 프롬프트(심지어 훨씬 더 위험한 프롬프트)를 Astra에 넣어도 아무런 불만 없이 작업을 완료해주는데, 그게 어떻게 필요하다는 거야?

Fable의 보안 필터는 도저히 받아들일 수 없을 정도로 말도 안 돼.

-2

착한 노예구나!

오래된 하드웨어라고 하는 게 더 맞겠지.

도움이 될지는 모르겠지만, 난 CoWork를 통해 Fable을 쓰는데 요청하는 작업마다 무슨 추론 오류라면서 차단되는 문제가 있었어. 알고 보니 내 전체 지침에 Claude가 모든 응답에 사고 과정을 제공해야 한다는 규칙이 있었더라고. 그걸 지우니까 Fable이 잘 작동했어.

Anthropic에 보안 연구용 권한을 요청해볼 수는 없어?

아니, 딱히 그렇지 않아. 내가 사용한 프롬프트 중 민감한 건 하나도 없었거든.

이런 이유로 내 작업 대부분을 Astra로 옮겼어. Anthropic Cyber를 쓰고 있지만 Opus까지만 지원되거든. Daybreak Blue도 쓰는데 Astra보다 성능이 떨어지지만, Fable의 오탐은 정말 사람 미치게 만들어.

링크는 없는데, Fable 전용은 아니고 Opus랑 Sonnet 5만 해당돼. 그리고 Mythos 접근 권한은 일반인은 얻을 수 없어.

그 프로그램은 사이버 보안용이지 생물의학용이 아니야.

AI를 거치지 않고 데이터를 입력하는 스크립트나 간단한 애플리케이션을 설계하도록 설득해보는 건 어때?

아니면 템플릿 이름을 '멜론 농부, 이거 건드리지 마!'처럼 무해한 걸로 바꿨다가 나중에 검색-바꾸기나 데이터베이스 업데이트로 수정하는 방법도 가능하면 써보고.

짜증 나는 건, 다른 아마도 더 멍청한 AI가 필터링을 결정하기 때문에 정작 뭐가 차단 트리거인지 알 수 없다는 거지.

너 규제 대상 자료를 다루고 있잖아.

에이전트로 데이터를 다룬다고 말한 적은 없음. 넌 그냥 보호된 데이터가 있는 앱을 '바이브 코딩'하고 있는 거임.

그건 Anthropic이 네 사용 사례를 지원하지 않는다는 뜻으로 해석됨. 그래, 네 입장에서는 너무 과하게 조심하는 걸 수도 있지. 하지만 Anthropic이 왜 이렇게 제한을 두는지 이해는 감. 솔직히 말해서, 의료 서비스 소비자 입장에서 난 그런 식의 사용 사례는 좀 껄끄러움. 망치를 가졌다고 해서 모든 문제가 못은 아니잖아.

원문r/ClaudeAI