Claude가 작성하는 모든 것에 워터마크가 적용되는데, 정작 본인은 확인할 방법이 없음

11월 3일부터 Anthropic이 Mythos 5, Opus 4.7, Opus 4.6, Sonnet 4.6 모델에 보이지 않는 텍스트 워터마크를 적용한다. 8월 이후에 나온 모델들은 이미 다 적용된 상태임. 이건 EU뿐만 아니라 전 세계에 적용되고, 유료 사용자라고 해서 거부할 수도 없다.

실제로 어떤 일이 벌어지냐면:

• Claude로 교정이나 번역을 돌리는 순간, 네 글에 낙인이 찍힘. Anthropic 도움말 페이지에서도 인정했듯이, 워터마크가 감지됐다고 해서 Claude가 글을 다 썼다는 뜻은 아님. 그냥 Claude가 손을 댔다는 뜻이지. 외국인이나 난독증 있는 사람이 쓴 글도 AI가 통째로 쓴 글이랑 똑같이 취급받는다는 소리임.

• 정작 본인은 자기 글이 워터마크 찍혔는지 확인할 방법이 없음. 감지 기능은 규제 당국, 언론, 연구원, 교육 기관, 그리고 "컴플라이언스 의무가 있는 기업"들한테만 비공개로 제공됨. 정작 평가받는 당사자들만 확인을 못 함.

• "우리만 키를 가지고 있다"는 말은 오래 못 갈 거임. 워터마크 탈취 연구를 보면 샘플만 충분히 모으면 이런 통계적 패턴은 금방 학습됨. 서드파티 "AI 탐지기"들이 귀신같이 잡아낼 텐데, 그 서비스들 정확도 수준은 다들 알지?

• 정직한 사용자들만 엿 먹이는 꼴임. 워터마크는 단어 선택에 숨어있어서, 다른 모델 돌려서 "전부 다시 써줘"라고 하면 바로 삭제됨. 악질들은 당연히 그렇게 하겠지. 근데 학생이나 구직자, 외국어 사용자들은 그런 거 모를 거 아냐.

그러니까 내가 Claude로 이력서 좀 다듬으려고 하면, "AI 탐지기"에 걸려서 광탈당한다는 거네. 개꿀! 돈 내고 이런 서비스를 쓰라니 진짜 대단하다!

정작 이 시스템이 타겟으로 삼았던 스팸 발송자나 선동꾼들은 아무 타격 없이 잘만 돌아다니겠지.

출처: How Claude marks AI-generated content

추신: 이 글은 Claude Opus 5.5로 썼으니까 워터마크 찍혀있음. 즐감해라.