마이크로소프트 리서치, 10개 미만의 휴면 뉴런을 직접 수정하여 AI 에이전트에 백도어 삽입

이거 하네스 가드레일로 쉽게 막히지 않음?

맞음. 많은 사람들이 하네스가 출력값에 대해 예측 가능한(혹은 그래야만 하는) 환경을 제공한다는 걸 잊고 있음. 그게 하네스의 핵심 목적이니까.

방금 말한 모델 Qwen4bEarlyClaudeOpusFableAstraDistillHornyJarvisRokosMalfoid를 yolo 모드로 hermes에서 돌린다고? 어디 한번 해보지 뭐.

하네스 권한 설정에 달렸다고 봄. 기사에서 예로 든 것처럼 하네스가 사용자 개입 없이 코드를 다운로드하고 실행할 권한을 에이전트에 부여했다면, 그때부턴 답도 없음. 에이전트를 '돌보는' 걸 귀찮아해서 모든 권한을 미리 다 퍼주는 사람들이 있음. 그런 사람들은 하네스를 보안상 중요한 게 없는 샌드박스 가상 머신에서 돌리는 게 해결책일 듯. 샌드박스가 봇넷에 합류하는 걸 막지는 못해도, 플러그 뽑고 인스턴스 초기화해서 다시 시작하는 건 훨씬 쉬울 테니까.

왜냐하면 Pi가 거의 모든 하네스 벤치마크에서 Codex를 계속 이기고, 토큰도 훨씬 적게 먹으면서, 완전히 샌드박스화된 하네스를 포함해 원하는 건 뭐든 될 수 있게 무한히 커스터마이징이 가능하기 때문임. 사람들이 왜 Pi의 핵심 아이디어를 이해 못 하는지 모르겠음. Pi는 당신이 만드는 대로 되는 거임 - 그게 핵심인데.