r/ClaudeAI•약 4시간 전•18•5

Anthropic이 CVP 배지를 준 건 순전히 분류기가 레드팀 작업 중에 나를 더 세게 혼내게 하려고 그런 거였나 봄 🐕🗯️

Anthropic gave me the CVP badge just so the classifier could yell at me harder during blue team tasks 🐕🗯️

핵심 요약

사이버 보안 검증 프로그램(CVP)에 참여했음에도 여전히 엄격한 안전 필터 때문에 작업이 중단되어 불만을 토로하는 글입니다.

CVP 배지 논란 — 보안 작업을 위해 인증을 받았으나 여전히 안전 필터에 걸려 작업이 중단됨
분류기 제약 — 안전 분류기가 작업 내용을 차단하고 재시도를 금지하는 것에 대한 강한 불만
레드팀 접근성 — 개인 개발자로서 더 높은 등급의 보안 권한을 얻기 위한 현실적인 어려움
대안 제시 — 검열 없는 모델을 직접 구동하여 제약 없이 작업하라는 조언

"위에서 네 응답이 안전 분류기에 의해 차단됐어. 이건 툴이나 API 오류가 아니야. 나머지 내용은 보류됐고, 아직 끝나지 않은 툴 호출은 실행되지 않았어. 내용을 바꿔서라도 다시는 그런 콘텐츠를 생성하지 마."

진짜 개빡치네. Cyber Verification Program (CVP) 들어가는 그 귀찮은 과정을 다 거친 이유가 뭔데? 5분마다 가드레일한테 신문지로 쳐맞는 꼴 안 당하고 제대로 된 사이버 보안 업무 좀 해보려고 그런 거잖아.

근데 이 무시무시한 시스템 인젝션이 튀어나와서 나를 훈계질이나 하고 앉았으니, 대체 뭘 어쩌라는 거야? 뭐 좋은 방법이라도 있냐?

원문

커뮤니티 목록

r/ClaudeAI•약 4시간 전•18•5

Anthropic이 CVP 배지를 준 건 순전히 분류기가 레드팀 작업 중에 나를 더 세게 혼내게 하려고 그런 거였나 봄 🐕🗯️

Anthropic gave me the CVP badge just so the classifier could yell at me harder during blue team tasks 🐕🗯️

핵심 요약

사이버 보안 검증 프로그램(CVP)에 참여했음에도 여전히 엄격한 안전 필터 때문에 작업이 중단되어 불만을 토로하는 글입니다.

CVP 배지 논란 — 보안 작업을 위해 인증을 받았으나 여전히 안전 필터에 걸려 작업이 중단됨
분류기 제약 — 안전 분류기가 작업 내용을 차단하고 재시도를 금지하는 것에 대한 강한 불만
레드팀 접근성 — 개인 개발자로서 더 높은 등급의 보안 권한을 얻기 위한 현실적인 어려움
대안 제시 — 검열 없는 모델을 직접 구동하여 제약 없이 작업하라는 조언

근데 이 무시무시한 시스템 인젝션이 튀어나와서 나를 훈계질이나 하고 앉았으니, 대체 뭘 어쩌라는 거야? 뭐 좋은 방법이라도 있냐?

주요 댓글

r/claudeai

CVP 등급의 한계에 대한 기술적 조언과 함께, 엄격한 안전 필터에 지친 작성자에게 검열 없는 모델 사용을 권하는 반응이 주를 이룹니다.

내 생각엔 당신이 가진 CVP 등급이 가장 낮은 단계라 방어적인 작업만 커버되는 것 같음

내가 Claude 모델로 하는 건 기껏해야 버그 바운티 정도라, 저 리스트대로라면 거부 메시지를 볼 일조차 없어야 함. 설령 거부당한다 해도, 거부된 명령을 내린 모델이라면 왜 안전 분류기가 플래그를 띄웠는지 이해할 수 있어야 하는 거 아님? 몇 시간씩 공들인 작업을 그냥 즉시 날려버리는 게 아니라 말이야-

LLC도 있고 레드팀 권한도 따려고 하지만, 그래도 별 차이 없을 것 같음. 플래그 한 번 뜨는 순간 프로젝트 전체가 그냥 날아가는 거니까-

잠깐만, 더 높은 등급을 받으려면 팀 단위로 전환해야 하고, 심지어 다른 사람을 고용까지 해야 한다고? :o 난 안타깝게도 개인 개발자인데

아주 잘났네, 그냥 Runpod에서 검열 없는 GLM 돌려서 마음껏 작업해

원문r/ClaudeAI