OpenAI, EU 규정 준수를 위해 ChatGPT 텍스트 워터마크 도입 계획 발표

편집은 워터마크를 약화시킬 수 있다. 400토큰 분량의 구절을 평가한 결과, 단어의 10%를 동의어로 교체하면 탐지율이 약 92%에서 66%로 감소했다. 25%를 교체하면 17%까지 떨어졌다.

본질적으로, 오픈 소스 AI에 동의어로 최소한만 교체하라는 명시적인 지시를 내려서 입력하면 워터마크를 아주 쉽게 지울 수 있다는 뜻임. 분명 아주 간단한 매크로나 플러그인으로 만들 수 있을 거다.

그리고 이건 EU 한정인 것 같은데? 일단은 말이지.

맞음, EU 법을 준수하기 위한 거임.

API를 통해 중국 모델을 제공하는 사람들도 규정을 준수하거나 시장에서 철수해야 할 상황이 올 거라고 예상함.

영상, 사진, 오디오 같은 미디어는 역사적으로 그 자체로 증거 역할을 해왔기에 AI 콘텐츠의 출처를 밝히는 중요성은 이해함. 하지만 텍스트에 워터마크를 넣으려는 집착은 일종의 히스테리라고 생각함. 텍스트 자체가 그 자체로 증거로 간주되던 시대는 한참 지났음. 인간이 썼든 기계가 썼든 텍스트의 진실성은 어차피 다른 무언가와 대조해서 검증해야 함. 물론 실제로 검증하는 사람이 있는지는 별개의 문제지만, AI가 썼다는 걸 알아낸다고 해서 달라지는 건 없음. 인간은 예전부터 쓸모없고, 틀리고, 해롭고, 멍청한 글들을 계속 써왔음. 사람이 앉아서 고민해서 쓴 글이든, 사람이 아이디어를 내고 로봇이 글로 옮긴 것이든 페이지에 적힌 단어들은 별 차이가 없음.

진짜 멍청하네. 뭐라도 한 척하려고 생색내는 완전히 쓸모없는 규제임.

지난 20년간의 유럽 정치를 환영한다.