Claude에서 차단당했습니다. CVP 및 보안 필터링 프로세스는 개선이 많이 필요하다고 생각합니다
I just got banned from Claude. I think this process of CVP and security filtering needs a lot of work
핵심 요약
자녀 모니터링 도구를 개발하던 사용자가 Claude에서 차단당한 후, 보안 필터링의 불투명성과 일관성 없는 정책 적용을 비판했습니다.
- 계정 차단 논란 — 자녀 모니터링 앱 개발 중 Claude로부터 보안 정책 위반으로 차단됨
- 정책 불투명성 — 챗봇은 허용된다고 했으나 실제로는 차단되어 프로세스 개선을 요구함
- 스파이웨어 논란 — 사용자는 합법적 도구라 주장하나, 커뮤니티는 스토커웨어 위험성을 지적함
- 이중 사용 문제 — 보안 도구 개발과 악용 가능성 사이의 경계에 대한 논쟁 발생
나 컴퓨터 보안 쪽에서 일하는 사람임. 시스템 관리자이자 프로그래머고, 보안 팀장도 맡고 있고... AI로 나쁜 짓 하는 놈들 막아야 한다는 건 나도 잘 알지. Claude 쓴 지는 한 달 정도 됐는데, Gemini보다 훨씬 괜찮더라고. 근데 이상하게 Opus만 쓰면 보안 경고가 미친 듯이 뜨고 내 콘텐츠를 자꾸 "플래그" 걸어대네.
얼마 전에 아들(13세) 관련해서 심각한 온라인 사건이 하나 터진 뒤로, 애들 기기에서 온라인 패턴 모니터링하는 툴을 직접 만들고 있음. 위험한 행동 차단하는 건 다른 방법으로 하고 있고, 내가 만든 앱은 방문 기록이나 온라인 활동을 모니터링하는 용도임. 전부 내 돈 주고 산 장비에서 돌아가고, 사용하는 사람들한테도 다 고지했음. 학교에서 쓰는 흔한 자녀 모니터링 소프트웨어 모델링해서 만든 거임.
이게 이중 용도로 쓰일 수 있다는 건 나도 인정함(참고로 구글에서 공식 지원하는 합법적인 API만 씀). 처음 내 코드에 보안 문제 있다고 메시지 떴을 때, 하라는 대로 다 고치려고 노력했음. 양식도 다 채워서 보냈는데 5초 만에 거절당함(사람이 검토한 게 아님). 내 링크드인 정보도 다 주고, Claude한테 대체 어떻게 해야 제한 안 걸리고 문제없이 쓸 수 있냐고 물어보기까지 했음. Claude한테 내 소프트웨어가 허용된 사용 정책에 맞고 개발 가능한 범위라는 것도 확인받았다고. 중간중간 채팅 로그 제출하라고 해서 다 제출도 했음. 사람한테 직접 답변 좀 받으려고 애썼는데 돌아오는 건 죄다 AI 답변뿐... 소프트웨어 쓰면서 문제 될 만한 건 다 쳐내려고 진짜 별짓을 다 했음.
내 생각엔, 내가 좀 요리조리 피했으면 이런 문제 대부분은 쉽게 우회했을 거 같음. 코드를 모듈화해서 쪼개거나, 문제 될 만한 부분 잠시 빼버리거나 하는 식으로 말이지(예를 들어 내 키워드에 성 정체성 관련 용어가 들어있었는데 이걸 진짜 싫어하더라고). 근데 난 꼼수 안 쓰고 투명하게 다 공개했는데, 오히려 그게 독이 된 거 같음.
그리고 이 과정 자체가 좀 투명했으면 좋겠음. 내가 합법적으로 가이드라인 안에서 프로그램을 만들려고 노력 중이면, 도대체 그 한계가 어디인지 알려주고 문제가 안 생기게 도와줘야 할 거 아냐. 챗봇은 괜찮다고 해놓고 계정 정지 때리는 건 아니지 않나. 이건 진짜 상식 밖임. 뭘 어떻게 하라고 똑바로 알려주든가. 규칙 어길 생각도 없고, 프로젝트 도중에 AI 툴 바꾸기도 싫음. 그냥 규칙 안에서 일하고 싶다고.
이 글 써봤자 아무도 안 들어줄 거란 거 알지만, 그래도 이 건설적인 비판을 듣고 움직여줄 누군가에게 닿기를 바랄 뿐임.
