속보: Anthropic, Claude AI 텍스트에 보이지 않는 워터마크 포함 예정. 구글 Gemini와 다른 AI 기업들도 뒤따를까?

Anthropic이 AI로 생성한 콘텐츠를 자기 것인 양 속이려는 사용자를 식별할 수 있게 만드는 게 왜 더 나쁜 건지 설명 좀 해줄래?

그렇게 민감한 일에 AI를 쓰지 않는 걸 상상해 봐. AI 기업이 그 대화 내용을 무조건 기록했다가, 권위주의 정부가 요구하면 바로 넘겨주거나 아예 직접 보고할 거라는 거 알잖아. 애초에 얘네 다 대중 감시하려고 존재하는 거 알지? 게다가 그 AI가 쓴 편지가 우체통에 들어가기도 전의 이야기야.

게다가 잉크젯 프린터도 출력물에 시리얼 넘버를 다 박아 넣잖아.

내가 보기엔 이건...

AI를 쓰거나 검색 엔진(일부 제외)을 쓰는 시점에서 이미 개인정보는 다 갖다 버린 거나 마찬가지임. 내 생각엔 아동 포르노부터 정치 선전물까지, AI 딥페이크 제작자를 추적할 수 있다는 이점이 훨씬 가치 있다고 봄.

AI로 숙제나 업무를 대신하는 사람들이 잃게 될 사소한 개인정보 따위는 알 바 아님. 난 AI를 연구용으로 쓰고, AI가 생성한 부분은 따로 분리해서 기록해두니까 항상 세 번씩 확인하고, 그리고...

대부분의 경우 사람이 감지할 수 없으니까.

구글 synthid-text

고마워.

진짜 얘네가 이걸 한다는 게 믿기지가 않네. LLM 출력 품질을 본질적으로 떨어뜨리는 건데 도대체 왜? 그냥 야생에서 Gemini가 만든 결과물을 찾아내려고 그러는 건가?

광고도 안 하는 게 더 말이 되는데. Anthropic은 이걸 하다니 제정신이 아니야. OpenAI는 법으로 강제되지 않는 한 절대 안 할 거라고 발표할걸.

품질에 영향 없다고 주장하긴 하는데, 그걸 뒷받침할 수치를 좀 보고 싶네.

사람들이 눈치채지 못하거나 신경 쓰지 않을 거라고 생각하는 것 같아. OpenAI도 결국엔 할지도 모르지. 보통은 그러니까. 하지만 OpenAI는 대체로 더 약삭빠른 조직이라 대부분의 경우 다른 업체들이 먼저 욕먹는 걸 보고 싶어 할걸.