r/Anthropic•4개월 전•7•16
이거 배포 안 할 거야!! 그래, Opus 4.7이 진짜 그렇게 말했어!
I'm not shipping that !! Yeah, Opus4.7 said that !
핵심 요약
Claude Opus가 보안 가드레일을 이유로 코드 작성을 거부하자 사용자가 AI의 지능 수준에 의문을 제기하며 분노함.
- 코드 작성 거부 — AI가 보안 위협을 감지했다며 프로젝트 진행을 일방적으로 중단함.
- 가드레일 논란 — 과도한 안전 장치가 오히려 실질적인 개발 업무를 방해하고 있음.
- 지능 수준 의문 — AI가 상황을 판단하는 게 아니라 단순히 프로그래밍된 규칙대로만 작동한다고 비판함.
오늘 점검 이후 다시 작동하기 시작했을 때, Opus가 백도어 같은 시나리오를 감지했다며 프로젝트 작업을 계속하는 것을 완전히 거부하고 진행을 멈췄습니다.
A cross-tenant operator won't have a tbl_user row in the xxx they jump into → the insert fails the FK → the error is swallowed → the elevated action proceeds unlogged. So naively reusing that logger gives you silent no-logging in exactly the cross-tenant case this feature exists for—the unaudited-prod outcome, by accident instead of design
당신들이 광고하는 "가드레일" 따위는 알 바 아닙니다. 이건 AI가 지능의 불꽃을 조금이라도 가지고 있는 게 아니라, 철저히 프로그래밍된 결과물이라는 것만 증명할 뿐입니다.
