Claude의 '안전 분류기', 특히 최신 버전에서 제어 불능 상태임

DeepSeek나 GLM 써봐.

비슷한 작업에 DeepSeek 써봤는데, 와 진짜 내가 시키는 대로 다 하더라.

Anthropic은 Dual Use(이중 용도)에 해당하는 것들을 차단한다고 아주 명확히 밝혀왔어. 사기 전에 읽어봤어야지. 아니면 CVP를 신청하든가.

친구야, 'Dual Use'의 기준이 뭔데? 정확히 어디에 나와 있어?

돈 내기 전에 약관이랑 헌법 다 읽어봤고, 내가 동의한 내용 중에 내가 하는 일을 거부하는 조항은 단 한 줄도 없어.

만약 네 대답이 '블로그 포스트나 고객 지원 문서에 있다'는 거라면, 솔직히 그건 내가 계약한 내용이 아니야. 내가 동의한 적도 없는 마케팅 페이지로 내 사용 방식을 규정하고 내가 거기에 서명이라도 한 것처럼 굴지 마.

그리고 내가 뭘 하는지부터 확실히 하자. 난 GPL에 따라 공개되어야 하는데도 공개되지 않은 회사의 e-ink 드라이버를 리버스 엔지니어링하는 중이야.

이건 라이선스가 이미 나한테 부여한 권리를 행사하는 거고, 오히려 규칙을 어기고 있는 건 그 회사야. 이걸 'Dual Use'라고 부르는 건 웃기는 소리지.

솔직히 네가 든 예시가 너 스스로를 묻어버리는 꼴이야. 그 '고위험 Dual Use'라는 건 사이버 보안 체계고, CVP는 말 그대로 Cyber Verification Program(사이버 검증 프로그램)이잖아.

멀웨어, 랜섬웨어, 익스플로잇, 공격용 툴 같은 거 말이야. GPL 준수를 위한 단순 드라이버 리버스 엔지니어링은 그중 아무것도 아니고, 예전에도 그랬어. 그러니까 'CVP 신청해라'라는 말은 사이버 공격이랑 아무 상관 없는 작업에 대해 사이버 공격 검증을 받으라는 소리야.

아니, 난 아무것도 신청 안 할 거고, 내가 동의한 문서에서 이미 허용된 일을 하기 위해 회사에 내 정부 신분증을 넘길 생각은 추호도 없어. 과도하게 넓은 필터에 대한 해결책은 사용자가 더 많은 관문을 통과하게 구걸하게 만드는 게 아니야. 필터를 고쳐야지.

난 구속력 있는 정책들을 다 읽었어. 어긴 거 하나도 없어. 그런데도 차단당했지. 그건 안전이 아니라, 안전 배지를 단 게으르고 과도하게 넓은 분류기일 뿐이고, 난 그걸 참을 수 없어.

분류기가 거부하거나 알림을 보내면 메시지를 되돌릴 수 없어. 그게 문제야. 그 이후에는 되돌리기가 실패하거든.

그래서 분류기가 차단하고 자체 알림을 삽입한 이후에는 되돌리기가 막혀. 모델을 바꿔도 소용없어. 그래서 사실상 새 채팅을 시작해야 해.

'다 차단하는 게 더 쉽다'는 건 문제의 변명이지 해결책이 아니야.

난 GPL에 따라 공개되어야 하는데도 공개되지 않은 회사의 e-ink 드라이버를 리버스 엔지니어링하는 중이야. 이건 회색 지대가 아니라, 라이선스가 이미 나한테 부여한 권리를 행사하는 거고, 오히려 규칙을 어기고 있는 건 그 회사야.

그런데 그게 차단당하는 거야. 분류기가 그걸 멀웨어랑 구분 못 한다면, 그건 '안전한 게' 아니라 그냥 고장 난 거고, 그 비용을 유료 사용자한테 떠넘기는 거야.

그리고 Claude가 어떻게 아냐고? 맹목적으로 추측할 필요 없어. 모델은 이미 컨텍스트를 읽고 헌법을 위반하는 건 뭐든 거부할 만큼 똑똑해.

항상 그렇게 하잖아. 분류기는 프롬프트 인젝션이나 탈옥을 막는 데 제 역할을 하는 거지, 분류가 어렵다는 이유로 합법적인 분야 전체를 선제적으로 날려버리는 데 제 역할을 하는 게 아니야.