Fable 5가 Qwen 배포 관련 질문을 거부하나요?

또한, 그들은 모니터링 레이어가 무작위로 심통을 부릴 경우 모델이 거부하도록 유도하기 위해 추론 과정에 중재 메시지를 주입하기도 함.

한 6개월 전쯤인가, Claude가 "피곤하지 않으세요? 잠자리에 드는 건 어때요?" 같은 말을 너무 자주 해서 Anthropic 서브레딧에서 일종의 밈이 된 적이 있었음. 좀 더 파고들어 보니 이게 바로 네가 말한 거랑 똑같은 상황이더라고. 대화가 충분히 길어지면, "[anthropic:long_conve … 같은 태그를 주입하곤 했음.

모델 내부의 가중치가 서로 어떻게 상호작용하는지 아무도 완전히 이해하지 못한다는 점을 고려할 때, 안전하면서도 유용한 모델을 만드는 것은 불가능함.

이건 무지에 호소하는 개소리이자, 압도적으로 쌓여 있는 경험적 증거들을 완전히 부정하는 거임.

가장 큰 AI 위험은 지배 계급이 AI를 완전히 일방적으로 통제하고, 외부 영향은 전혀 고려하지 않은 채 오로지 자신들의 이기적인 이득을 위해 그 권력 격차를 의도적으로 악용하는 것임이 확실하고 논쟁의 여지가 없음 …

딱히 별다른 이유도 없다는 걸 인정하면서도. 모델한테 왜 거부했냐고 물어봐 봤자 소용없음 ㅋㅋ 원래 그런 식으로 작동 안 함