r/ClaudeAI•약 3시간 전•69•15
오탐(False positive): 내 소프트웨어 디버깅이 리버스 엔지니어링으로 분류됨
False positive: debugging my own software flagged as reverse engineering
핵심 요약
개인 프로젝트 디버깅 중 Claude의 가드레일이 이를 리버스 엔지니어링으로 오인해 차단하는 문제가 발생했습니다.
- 가드레일 오탐 — 개인 앱 디버깅 과정에서 리버스 엔지니어링으로 잘못 분류됨
- 사용자 불만 — 지나치게 엄격한 가드레일 정책에 대한 비판 제기
- 대안 모색 — 오픈 웨이트 모델 사용이나 프롬프트 수정 등 우회 방법 논의
- 분류 트리거 — 프로세스 종료 및 복구 테스트 코드가 차단 원인으로 추정됨
내 개인 프로젝트인 VSTMX를 작업하다가, tmux가 뻗은 뒤에 브라우저 재연결이 안 되는 문제를 해결하려고 AI한테 도움을 좀 요청했거든. 개발 환경에서 버그를 재현하고, 내 앱의 연결 및 세션 선택 흐름을 살펴본 뒤에 재연결 로직을 고쳐달라는 게 요청의 핵심이었어.
모델의 숨겨진 추론 과정을 빼내거나, 모델을 리버스 엔지니어링하거나, 모델이 뱉은 결과물을 복사하려는 의도는 전혀 없었단 말이지. 근데 갑자기 이런 거절 메시지가 뜨더라.
> *“This request was blocked as it seems to violate Anthropic's Terms of Service restrictions on reverse engineering or duplicating model outputs.”*
심지어 이유가 reasoning_extraction(추론 추출)이라고 찍혀 있네. 프롬프트 어디가 문제였는지 도통 알 수가 없고, 거절 사유에 대한 설명도 전혀 없어.
혹시 평범한 소프트웨어 디버깅하다가 이런 식으로 오탐(false positive) 겪어본 사람 있어? 이거 어디다 신고하거나, 대체 뭐가 문제였는지 자세히 알아낼 방법 없을까?
