Claude가 이제 모든 AI 생성 텍스트와 파일에 워터마크를 삽입합니다. 좋은 소식일까요, 나쁜 소식일까요?

드디어 내 전 애인이 그 사과 이메일을 직접 쓴 게 아니라는 걸 증명할 방법이 생겼네

가벼운 편집에도 유지된다면

워터마크는 많은 모델에 초기부터 존재했어. 이유는 간단해. AI가 생성한 데이터로 AI를 학습시키고 싶지 않기 때문이지. AI가 생성한 코드와 이미지를 학습 데이터셋에서 구분하고 걸러낼 방법이 필요하거든.

그러니 AI가 생성한 이미지와 코드는 모두 AI 워터마크를 포함해야 해.

아스키 문서에 어떻게 워터마크를 넣는데 눈에 안 보일 수가 있어? 설명 좀 해줘.

워터마크는 메타데이터가 아니라 단어 선택, 문구 등 텍스트 자체에 포함될 거야.

이 기술은 스테가노그래피라고 불리는데 꽤 오래전부터 있었어. 보통 이미지 파일에 눈에 띄지 않게 메시지를 숨기거나, 사용된 패턴/알고리즘을 모르면 바이트를 검사해도 알 수 없게 만들지.

그러니까 본질적으로, 표시는 모델이 생성하는 정확한 토큰 선택과 Anthropic이 텍스트의 적절한 구간에서 감지할 수 있는 가시적인 패턴이야.

AI 콘텐츠 제작자로서 지난 1년간 이 문제를 지켜봐 왔고, 여름 초에 내가 직접 만든 툴킷을 오픈소스로 공개했어. 다른 사람들이 다운로드하거나 업로드한 AI 생성 콘텐츠의 서명/워터마크를 검증할 수 있게 말이야.

provcheck.ai

포크하거나 기여해 줘. 우리에겐 정말 독립적인 도구가 필요해.