Anthropic writes an FAQ about watermarking
Anthropic의 AI 워터마킹 도입에 대해 학술적·전문적 글쓰기에서의 품질 저하를 우려하는 사용자와 기업용 서비스의 필수 과정이라는 의견이 대립함.
anthropic.com
원문 사이트로 이동
워터마킹 도입의 실효성과 규제에 따른 역효과, 그리고 중국의 관련 법규 현황에 대해 사용자들 간의 활발한 정보 공유와 토론이 이루어지고 있음.
내가 Claude를 사용하는 모든 방식이 Anthropic이 말하는 '대부분의 상황' 밖인 것 같네. 왜냐하면 이 차이가 내가 하는 작업에 있어서는 항상 중요하거든.
"'오늘 날씨는 춥고…'라는 문장을 생각해 보자. 다음 단어가 '설탕 같은'일 가능성은 매우 낮다. 하지만 '흐린'이나 '회색인'일 가능성은 꽤 높다. 대부분의 상황에서 독자에게 모델이 최종적으로 이 두 단어 중 무엇을 선택하는지는 크게 중요하지 않다—문장의 의미는 대체로 같기 때문이다…
맞아, 그들도 알고 있어. 그들의 주된 관심사는 기업 고객들이고, 그들에게는 AI 출처 증명이 결과물에 어떤 동의어가 쓰였는지보다 훨씬 더 큰 이득이거든. 그래서 워터마킹을 싫어하는 고객을 잃는 건 별로 신경 안 쓰는 거지.
일반 사용자들은 차치하고라도, 학술 연구용으로 Claude를 홍보하고 문헌 검토용 앱까지 출시하는 이 시점에 왜 이런 방식으로 일을 처리하는지 의문이야.
정말 사람들이 이 도구로 과학적인 작업을 할 때 이런 종류의 키(워터마크)가 결과물에 삽입되길 바라는 걸까? 키를 삽입한다는 건 텍스트를 바꾼다는 뜻이고, 텍스트를 바꾼다는 건 의미를 바꾼다는 뜻이니까.
이거지. 너희들은 너희 중 누구도 Anthropic의 우선순위가 아니라는 사실을 받아들여야 해. 기업 고객이 우선이야. 나도 이게 마음에 들진 않지만, 그게 그들의 사업 방식이야.
하지만 그들은 계속 과학 분야에서 Claude를 치켜세우고 있잖아. 과학적 글쓰기에서 '비슷한' 단어로는 충분하지 않아. 어휘는 이미 어느 정도 제한되어 있고 문장 구조도 꽤 엄격하거든. "x를 결정하기 위해 y를 연구했다. [기법]을 [실험 모델]에 적용하여, [매우 구체적인 단어와 숫자로 보고되어야 하는 데이터]를 발견했다"라고 말하는 방식은 몇 가지 안 돼.
그들이 걱정하지 않는 주된 이유는 그게 아니야. 가장 큰 이유는 모든 서구권 AI 제공업체가 워터마킹을 구현할 것이기 때문이지. 구글은 이미 도입했고, OpenAI, Meta 등도 모두 동의했어. 아마 다들 구글의 SynthID에 기반한 본질적으로 동일한 워터마크 기술을 사용할 거야.
이게 추론 능력에 나쁜 영향을 줄 수도 있어. 모델들은 제약이 없을 때 더 똑똑해지는 경향이 있거든.
흐림/회색은 예측 가능할지 몰라도, AI가 없어도 95%의 사람들이 그렇게 썼을 거야.
인간들 자체가 너무 엉망이 돼서 기본적인 글쓰기조차 잊어버린 듯 🤷🏾♂️
중국 모델들은 워터마킹을 추가할 가능성이 낮음. 늘 그렇듯 좋은 의도로 만든 EU 규제는 역효과만 낼 듯.
중국 모델들은 이미 워터마킹이 있음. 중국 법이 요구하니까. 아이러니하게도 일부 중국 모델들은 서구권 프론티어 모델에서 증류(distilled)된 거라 프론티어 워터마킹까지 포함하고 있음.
법 조항 내용임:
인공지능 기술 발전의 필요성을 고려하여, 텍스트 콘텐츠에 암시적 식별자를 추가하거나 멀티미디어 파일에 디지털 워터마크를 추가하는 것은 여전히 기술적으로 어렵거나 기업의 비용을 증가시킬 수 있으므로 의무화하지 않음.
중국이 고지 사항이나 이미지 워터마크를 요구하는 건 알고 있는데, 텍스트 워터마크라고?
너 지금 걔네 주장을 오해하고 있는 거 같은데. overcast랑 grey가 다를 수 있다는 건 맞는데, 대부분의 경우엔 진짜 상관없거든.
Claude한테 아무 조건 없이 '랜덤한 이야기 써줘'라고 프롬프트 넣고, 나중에 '오늘 날씨는 추웠고...' 이런 식으로 쓴다면, overcast나 grey 중 뭐가 더 나은지 결정할 문맥 같은 건 존재하지 않음. 그러니까 만약 걔네가 확률 함수를 예를 들어 overcast 50%, grey 50%에서 overcast 75%, grey 25%로 수정하면, 그건... 로 감지될 수 있는 거지.
네 말이 맞는 거 같음. 다른 댓글러들은 예시에만 너무 매몰돼서 Anthropic이 이미 다 고려했을 법한 뻔한 소리만 하고 있네.
Claude한테 우울증에 관한 단편 소설을 써달라고 하면 주인공의 하루를 묘사할 때 grey/gray라는 단어가 중요하게 쓰일 거고, 반대로 날씨에 관한 과학 논문에서는 overcast라는 단어가 더 중요하게 쓰일 거라는 건 거의 확실함.
많은 댓글러들이 놓치고 있는 핵심은...
Claude Opus 5.5와 Pygame을 활용해 MIDI 파일로 피아노 연주 손 애니메이션을 구현한 프로젝트입니다.
Claude Opus 5.5와 Pygame을 활용해 MIDI 파일로 피아노 연주 손 애니메이션을 구현한 프로젝트입니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
작성자가 저혈당 쇼크로 의식을 잃어갈 때 ChatGPT가 음성으로 계속 말을 걸어 깨워준 경험담입니다.
작성자가 저혈당 쇼크로 의식을 잃어갈 때 ChatGPT가 음성으로 계속 말을 걸어 깨워준 경험담입니다.