Anthropic이 Claude Code에 '피드백' 명목으로 학습 데이터를 수집하는 법적 허점을 숨겨둔 것으로 보임

말이 안 되잖아. 그럼 토글은 대체 무슨 역할을 하는 거야? 그냥 바보 버튼이라고 믿으라는 건가?

맞아, 그게 일반적인 사람들이 정의하는 '피드백'이지. 문제는 여기서 정의하는 방식대로라면 Claude에 메시지를 보내는 것 자체가 피드백이라는 거야.

수상한 AI 기업이 수상한 짓을 하고 있다는 뜻이지.
가장 걱정스러운 기업들이 최고의 모델을 가지고 있는 데는 다 이유가 있는 법이야.

규칙을 지키지 않으면 불공정한 이점을 얻기가 꽤 쉽거든.

놀랍지도 않네. 내가 프로 구독이랑 일반 소비자용 구독 사이에서 고민할 때, Anthropic에 토글 버튼은 있지만 사용자 데이터를 학습에 사용하지 않겠다는 계약상 의무는 엔터프라이즈 구독에만 한정되어 있다는 걸 알게 됐거든. 법적 구속력이 없는 토글 버튼이 제대로 지켜질 리가 없지.

변호사들이 아주 열심히 법적 꼼수를 부리고 있네. 이렇게까지 법적으로 머리 굴리는 건 오랜만에 봐.

Opus 5.5의 오작동(false trigger)도 또 다른 문제임. 플래그된 대화들은 어떻게 되는 거지? 어디선가 이런 대화들이 몇 년 동안 보관될 수 있고, 학습 데이터로 사용될 가능성이 매우 높다는 내용을 본 것 같아. Anthropic을 전혀 신뢰할 수가 없네.

특히 보관된 대화들이 서비스 이용 약관을 위반한 것으로 간주되는 대화들이라면 더더욱 그렇지.

'피드백'이 반드시 '학습'을 의미하는 건 아니야.

개인정보 설정 페이지를 보면 *"Anthropic은 사람들이 Claude를 어떻게 사용하는지 이해하기 위해 데이터를 집계하고 익명화하여 분석할 수 있습니다."*라고 되어 있어. 학습 옵트아웃 여부와는 상관없이 말이야. 즉, 일반 소비자 계정 세션은 (거의 확실히) 시장 조사, 사용자 경험 연구, 인간-AI 상호작용 연구 같은 곳에 활용되고 있다는 거지. 이런 것들은 당신의 사용자 데이터를 '피드백'으로 소비하지만, 엄밀히 말하면 '학습'은 아니야.

API 요금을 내는 엔터프라이즈 계정만이 진정한 데이터 프라이버시를 보장받아. 만약 소비자 계정이 진정으로 비공개될 수 있다면, 우리 회사는 지금 하루에 200달러씩 쓰는 대신 개발자당 한 달에 200달러를 쓰고 있었겠지. 그게 바로 프라이버시 프리미엄이야.