r/Anthropic•약 2개월 전•39•26
아마존이 곧 Claude의 워터마크를 이용해 AI 도서에 자동으로 배지를 달 것이라는 내 예측
My prediction is that Amazon will soon use Claude's Watermark to Auto Flag AI Books with a Badge
핵심 요약
Anthropic의 워터마크 도입으로 아마존이 AI 생성 도서에 자동으로 경고 배지를 부착할 것이라는 예측과 그에 대한 커뮤니티의 반응.
- 워터마크 도입 — Anthropic이 생성 텍스트에 통계적 패턴을 심는 워터마크 기술을 발표함
- 아마존의 대응 — AI 생성 도서에 자동으로 배지를 부착하여 공개적으로 표시할 가능성 제기
- 우회 시도 — 워터마크를 제거하기 위해 다른 모델로 재작성하거나 '휴머나이저' 서비스를 이용하려는 움직임
- 법적 논란 — AI 탐지 시스템의 신뢰성과 그로 인한 도서 삭제 시 발생할 수 있는 법적 분쟁 가능성
최근 Anthropic은 Claude가 생성한 텍스트에 워터마크를 넣을 것이라고 발표했다. 사실 나는 몇 년 전에 이를 예측했었다. 당시 내 이론은 AI 회사가 생성된 콘텐츠에 워터마크를 넣는 방법으로 통계적 패턴을 도입하는 것이었다. 예를 들어, LLM이 문장을 완성하기 위해 다음 단어로 단어 1과 단어 2 중 하나를 선택해야 할 때, 통계적 패턴을 만들기 위해 대략 한 번씩 번갈아 가며 단어 2를 선택하는 식이다. 이건 그냥 예시일 뿐이다. 하지만 최종 사용자는 워터마크를 감지할 수 없을 것이다.
이런 일 중 일부는 EU 법 때문에 일어나고 있어서, 앞으로는 대부분의 AI 사용에 워터마크가 찍히는 미래가 올 것이다.
만약 그렇게 된다면, 내 다음 예측은 아마존이 자가 출판 도서에 배지를 달아 공개적으로 표시하고, 전통적인 방식으로 출판된 도서라도 AI가 생성했거나 보조했는지 여부를 표시할 것이라는 점이다. 현재 유튜브가 AI 콘텐츠에 대해 하는 것과 같은 방식이다.
