r/ClaudeCode•4개월 전•127•67논쟁
Fable의 안전장치는 제정신이 아님
Fable’s safeguards are nuts
핵심 요약
Fable의 과도한 안전장치로 인해 생물학 및 화학 연구, 심지어 단순한 AWS 설정 작업까지 차단되어 사용자들이 큰 불편을 겪고 있음.
- 연구 차단 — 생물학 및 화학 관련 연구 데이터 처리가 안전장치에 걸려 진행이 불가능함.
- 광범위한 검열 — 단순한 AWS IAM 정책 생성조차 사이버 보안 위협으로 간주되어 차단됨.
- 투명성 논란 — 앤스로픽이 생물학/사이버 보안 분야 제한을 명시했음에도 마케팅과 실제 성능 간 괴리가 큼.
- 답변 조작 비판 — 의심스러운 질문에 대해 거부 대신 의도적으로 잘못된 답변을 제공하는 방식에 대한 반발.
생물학/우주 과학 분야의 박사후 연구원임. Fable을 작은 프로젝트에 쓰기 시작했는데 계속 안전장치에 걸림.
프로젝트는 과학 저널의 RSS 피드를 가져와 내 연구와 관련된 논문만 추려내는 것임. 파싱 과정에서 Sonnet을 사용하는데, biorXiv 논문을 가져오자마자 안전장치가 작동하고, 코드베이스 작업 중에도 Fable의 안전 스위치가 켜짐.
계산 화학 연구도 하는데, 아직 Fable을 적용하지도 않았음. 화학 관련 내용을 학습하면 바로 난리 날까 봐 걱정됨.
앤스로픽의 사이버 검증 프로그램에 지원하면서 내가 출판한 계산 화학 논문을 포함했는데, 한 시간도 안 돼서 거절당함.
사용할 수 없는 모델이 무슨 소용인가?
나만 안전 스위치 때문에 고생하는 건 아니겠지?
