r/LocalLLaMA•약 2개월 전•354•277

Anthropic, OpenAI, Google, Meta, Microsoft, Mistral 등 주요 AI 기업들, EU의 AI 생성 콘텐츠 투명성 실천 강령 서명

Anthropic, OpenAI, Google, Meta, Microsoft, and Mistral all signed the EU Code of Practice on Transparency of AI-Generated Content

핵심 요약

주요 AI 기업들이 EU의 AI 생성 콘텐츠 투명성 강령에 서명하며 워터마크 도입이 의무화될 전망입니다.

투명성 강령 — 주요 AI 기업들이 EU의 AI 생성 콘텐츠 투명성 규정을 준수하기로 합의함
워터마크 의무화 — 법적 요구 사항에 따라 AI가 생성한 코드와 텍스트에 워터마크 삽입이 강제됨
기술적 회의론 — 커뮤니티에서는 워터마크가 쉽게 우회되거나 제거될 것이라는 의견이 지배적임
규제 실효성 — 워터마크가 완벽한 방어책보다는 일반 사용자를 위한 기본 시스템으로 작동할 것이라는 분석이 나옴

이 기업들의 오픈 소스 로컬 모델조차도 법적 요구 사항이기 때문에 코드와 텍스트에 워터마크를 삽입하게 될 것입니다.

원문

커뮤니티 목록

r/LocalLLaMA•약 2개월 전•354•277

Anthropic, OpenAI, Google, Meta, Microsoft, Mistral 등 주요 AI 기업들, EU의 AI 생성 콘텐츠 투명성 실천 강령 서명

Anthropic, OpenAI, Google, Meta, Microsoft, and Mistral all signed the EU Code of Practice on Transparency of AI-Generated Content

핵심 요약

주요 AI 기업들이 EU의 AI 생성 콘텐츠 투명성 강령에 서명하며 워터마크 도입이 의무화될 전망입니다.

투명성 강령 — 주요 AI 기업들이 EU의 AI 생성 콘텐츠 투명성 규정을 준수하기로 합의함
워터마크 의무화 — 법적 요구 사항에 따라 AI가 생성한 코드와 텍스트에 워터마크 삽입이 강제됨
기술적 회의론 — 커뮤니티에서는 워터마크가 쉽게 우회되거나 제거될 것이라는 의견이 지배적임
규제 실효성 — 워터마크가 완벽한 방어책보다는 일반 사용자를 위한 기본 시스템으로 작동할 것이라는 분석이 나옴

이 기업들의 오픈 소스 로컬 모델조차도 법적 요구 사항이기 때문에 코드와 텍스트에 워터마크를 삽입하게 될 것입니다.

주요 댓글

r/localllama

빅테크의 규제 준수 서약에 대해 사용자들은 실효성에 의문을 제기하거나, 오히려 로컬 모델 사용을 부추기는 역효과를 낼 것이라며 냉소적인 반응을 보이고 있습니다.

226

사람들이 이걸 얼마나 신경 쓸지 궁금하네. 중국산 오픈 웨이트 모델이나 저렴한 API 모델 쪽으로 더 몰리게 될 것 같아. 만약 워터마크 때문에 사람들이 너무 많이 떠나면, 미국용은 워터마크 빼고 EU 전용 버전만 따로 만들지 궁금함.

218

결과물 퀄리티에 영향이 있다면 사람들이 신경 쓰겠지. 근데 퀄리티에 지장 없으면 레딧이나 트위터에서 징징대기만 하고 그냥 계속 쓸걸.

사람들이 눈치 못 채면 대다수는 그런 게 있는지도 모를 거임.

보통은 답변과 관련 있는 단어들의 확률을 살짝 조정하는 식임. 읽는 사람 입장에선 전혀 티 안 나는데, AI 탐지기한테는 (출력 길이가 충분하다면) 확실하게 걸림. 악의적인 사용자가 abliterated 모델 써서 그 신호를 뭉개버리는 걸 막을 방법은 없음.

악의적인 행위자들

자레드 레토는 좀 빼라

적어도 레퀴엠 포 어 드림에서는 연기 잘했지. 아마 초기 배역이라 아직 사이비 종교 만들기로 마음먹기 전이었나 봄.

어떤 이유로든 자기 텍스트에 워터마크 찍히기 싫어하는 사람들이 갑자기 '악의적인 행위자'로 몰리는 거 참 흥미롭지 않냐? 갑자기 도덕적 논쟁으로 변질되네. 전형적인 미국식 선동 방식이지.

독자 입장에서는 눈치채기 힘들다

그건 뭘 읽느냐에 따라 다르겠지

대학 교양 에세이? 당연히 문제없겠지.

컴파일 언어로 작성된 복잡한 소프트웨어 프로젝트라면, 젠장, 문제가 생길 수도 있음

그리고 파인 튜닝 좀 해본 사람들은 아주 사소한 것들이 전체를 얼마나 망쳐놓는지 다 알지

이미 성능 저하 없이 파라미터 기반 모델 검열을 우회하는 오픈 소스 프로젝트들이 있음. 나한테는 이게 또 다른 오픈 소스 프로젝트를 요구하는 것처럼 보임.

텍스트 워터마킹은 어차피 근본적으로 '보안을 통한 모호함'일 뿐임. 간단한 로컬 스크립트로 문장을 바꾸거나 3B짜리 오픈 모델에 한 번 돌리면 바로 지워짐.

중국은 이미 자국 소셜 미디어에서 AI 생성 콘텐츠를 표시하도록 하는 법이 있음. 텍스트는 제외지만.

이번에 AI를 대하는 중국 입법자들은 훨씬 방향을 잘 잡은 것 같음. 심지어 AI로 인간 노동자를 대체하려는 사람들을 처벌하자는 아이디어까지 내놨으니까. 물론 AI 텍스트 워터마킹처럼 법 집행은 불가능하겠지만.

아마 그럴걸. 유럽이 세계 규제의 중심지가 된 건 순수하게 마이너스라고 봄. 항상 겉보기만 번지르르하고, 정작 구현은 개판이니까 (쿠키 정책 같은 거...). 유럽이 더 이상 혁신하는 법을 모른다는 사실이 서구권 전체에 타격이 될 거임. 반면 중국은 별다른 제약 없이 계속 나아가고 있고.

상황이 너무 심각해서 영국은 유럽에서 에너지 비용이 제일 비쌈. 규제에 발목 잡혀서 발전소 하나 제대로 못 짓는 수준임. 제레미 클락슨 농장(Jeremy's Farm) 영상 보면 얼마나 말도 안 되는 상황인지 알 수 있음.

클락슨은 보수 꼴통이고, 그 프로그램은 트위드 재킷이랑 헌팅캡 쓴 폭스 뉴스 같은 거임. 네 댓글 보니까 아주 잘 먹히고 있네.

원문r/LocalLLaMA