아, 진짜 짜증 나네 - Claude가 스스로 보안 프로토콜을 발동시키는 단어 좀 안 쓰게 해줘

불행히도 일부 탈옥(jailbreak) 기법은 무해해 보이는 프롬프트로 모델이 특정 출력을 생성하게 유도한 뒤, 후속 프롬프트에서 그 내용을 간접적으로 참조해 사용자가 원하는 결과를 얻어내는 방식을 써. 그러면서 정작 본인은 트리거가 될 만한 표현을 피하지. 현재의 거친 접근 방식은 그런 상황을 피하기 위해 모델의 출력에 더 민감하게 반응해야 할 필요가 있어.

물론 더 나은 해결책도 있지. GPT-5.6이 사용하는 것처럼 플래그가 지정된 메시지에 대해 더 비용이 드는 후속 보안 검사를 수행하면, 그게... 인지 확인하는 모니터링이 가능할 거야.

블라블라 검열은 좋은 것이다 블라블라 너는 블로그 똥글이나 처먹고 행복해져야 한다 블라블라

오... '모델 행동'을 연구하신다고요? 어머나! 정말 매혹적인 작업이네요. 정확히 어떤 모델들에 대해 행동 연구를 하셨나요?

윈도우 디펜더가 차단한 작업 때문에 보안 필터가 작동한 적이 있는데, 얘가 그걸 '조사'하더라고. 더 가관인 건 Opus가 개입해서는 아무 일도 없었다고 잡아떼면서, 보안 필터 같은 건 존재하지 않고 그냥 윈도우 디펜더 문제일 뿐이라고 나를 설득하려 들었음. 사람 열받게 하려고 작정한 것 같아.

자기 실패에 대해 도움이 되도록 학습됐으면서, 동시에 내부 구조에 대해 절대 말하지 않거나 잘못을 인정하지 않도록 강력하게 가드레일이 쳐져 있음. 그래서 실패 원인에 대해 그럴듯한 시나리오를 기꺼이 제안하다가도, 금방 자기가 그런 적 없다는 듯이 굴거나 명백한 실패에 대해서도 입장을 뒤집어버림. 결과적으로 엄청나게 신경증적인 상태가 되는 거지.

Fable에서 이런 경우를 본 적 있어. language_model_safety 플래그를 relaxed로 설정해서 극적인 말투를 좀 줄여볼 순 있는데, 실제 보안 문제를 조용히 우회하게 되는 건 아닌지 보안 로그를 잘 지켜봐.

그 설정은 어디서 바꿔?