Claude가 워터마크 우회를 막는 안전장치를 가지고 있을까?

이름 첫 글자만 보이는데? 별일 아니지 않나

Opus 5에서는 풀네임으로 보여.. 그래도 본인이 괜찮다면 다행이지

내 경우엔 왜 그런지 알아냈어; verbose 설정(새 옵션)에 'concise'를 사용했거든.

그러니까, 이게 원인이 맞네.

블로그 글 잘 썼네. 워터마크 과정을 통계적 유의성 값과 함께 대화형으로 만든 건 처음 봐. 워터마크 과정을 더 크게 만들거나 게임화하면 사람들이 Claude의 결과물이 영향을 받는지 직접 확인할 수 있어서 흥미로울 것 같아.

그리고 공격 시도 때문에 차단당했다는 발견도 정말 흥미롭네. 아마도...

고마워! 차단된 이유는 다를 수도 있지만, 어쨌든 예상치 못한 일이었어.

음, Anthropic이 워터마크 우회하려는 사람들을 위해 특별히 '안전장치'를 구현했다고는 생각 안 해. 내부 분류기가 이걸 모델을 탈옥하려는 이상하고 새로운 방식이라고 잘못 판단했을 가능성이 더 높다고 봐.

그 외에도, 워터마크 우회 방지에 왜 그렇게 힘을 쏟는지 모르겠어. Anthropic도 다른 LLM한테 텍스트를 살짝 수정해달라고 하면 워터마크가 거의 완전히 제거된다는 걸 알고 있을 텐데, 굳이 왜 그럴까?

이름 지워, 당장 지워