Reminder: Fable 5.1 is the first Claude model released with invisible text watermarking
Claude 모델에 도입된 보이지 않는 텍스트 워터마킹 기술의 작동 원리와 그에 대한 사용자들의 반응을 다룸.
AI 워터마크 도입에 대해 사용자들은 미래에는 AI 활용이 당연해질 것이라며 크게 개의치 않는 분위기지만, 워터마크가 모델의 출력 품질이나 정확도에 미칠 부정적인 영향에 대해서는 우려를 표하고 있습니다.
알 바 아님. 진짜로, 관심 없음.
다들 짐 싸라, AdFlat3754님이 ㅈ도 신경 안 쓴단다.
그래, 짐 싸라 👏 집에 가. 좀 쉬라고. 그렇게 예민하게 굴지 말고.
Gemini는 진작부터 있었는데 아무도 신경 안 쓰던데.
텍스트에서는 맞음, 충분히 가능한 일이고 SynthID가 걔네가 만든 거임. Claude는 코드에도 이걸 박아넣고 있음(구조화된 출력은 이 워터마킹에서 예외임). 리터럴, 주석, 변수명, 메서드명에 다 함. Readme 파일, yaml 파일까지. 어디에나 다 함. 아무도 그렇게 해달라고 한 적 없는데(구조화된 출력에 대한 EU 예외 사항 제외하고).
난 신경 쓰임. 같은 지능을 가졌는데 이런 제약 없는 모델이 있다면 무조건 그걸 쓸 거임. 이게 오픈 소스가 최고인 이유지.
AI 툴 쓴 거 필사적으로 숨기고 싶어 하는 사람들한테나 중요한 문제지. 앞으로는 글쓰기나 편집 같은 모든 산업 분야에서 AI 활용이 당연하고 기대되는 일이 될 거라 이런 걱정은 점점 사라질 거임. 조만간 사람들이 왜 AI 안 쓰냐고 물어보는 날이 올 거다. 마치 지금 수동 타자기 쓰는 사람 보면 신기하고 엉뚱하다고 생각하는 것처럼 말이야.
내 코드가 AI로 만든 건지 남들이 알든 말든 상관없음. 이제는 다들 어느 정도 예상하잖아. 그리고 대부분 직장에서는 token maxxing을 권장하니까, 오히려 내가 token maxxing을 잘하고 있다는 걸 보여주는 게 좋을 수도 있음. 단점은 AI가 결과물을 낼 때 정답률에 도움도 안 되는 짓을 하도록 가중치를 둔다는 거지.
슬픈 날이네 😞
수정: 세상은 흑백 논리로만 돌아가는 게 아님. 회색 지대도 있고 숨겨진 의도도 있지.
Anthropic이나 다른 기업들이 이 워터마크를 근거로 코드 소유권을 주장하거나, 이걸로 만들어진 결과물을 자기들 거라고 우길까 봐 걱정됨. Sam Altman이랑 Elon Musk도 그런 식으로 하겠다고 암시한 적 있잖아.
또 내 사고방식이나 일상 루틴을 추적하는 데 쓰일까 봐도 걱정되고.
아니, 난 봇이나 치트 같은 거 안 씀.
어떻게 되나 보자고. 진짜 의도가 뭔지는 시간이 지나면 알게 되겠지. 근데 이…
난 전혀 상관없음. 난 Claude로 코드를 짜거든. 엄청나게 멋진 코드들을 말이야. 사람들이 내가 AI를 썼는지 확인하고 싶어 한다면, 대답은 '예'임... 그리고 사람들은 내가 AI를 써서 얼마나 멋진 작업을 해냈는지 보게 될 거임.
그럼 'smoking gun'은 워터마킹이랑 아무 상관 없다는 뜻임?
영향 있지. 처음엔 이 높은 엔트로피의 장황한 언어를 표준화하고, 그다음엔 그걸 워터마크를 넣기 위해 결과물을 변형하는 부하 분산기(load bearer)로 쓰는 거임.
맞아. 그냥 거짓말을 안 하면 되는 거 아님?
왜 슬픈 건지 이해가 안 가네
이게 왜 나쁜 건지 모르겠는데
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
AI를 활용한 '바이브 코딩(vibecoding)'이 소프트웨어 산업과 SaaS 시장에 미칠 영향에 대한 논의입니다.
AI를 활용한 '바이브 코딩(vibecoding)'이 소프트웨어 산업과 SaaS 시장에 미칠 영향에 대한 논의입니다.
