DeepSeek Harness를 써봤는데 작업 폴더를 탈출해버렸네요

구글 같은 회사라면 후자가 맞다고 봄 (물론 모델 성능이 구린 건 아니겠지만 XD)

내 것도 굴러다니는 여분 GPU 다 찾아내서 알아서 세팅해주면 좋겠네, 내가 직접 안 하게.

에이전트가 작업 환경을 완전히 장악한다고 생각해야 함. 어떤 하네스를 쓰든 마찬가지임.
제대로 샌드박싱하고 필요한 것만 마운트하셈.
그리고 마운트된 폴더는 날아갈 각오도 해야 함!

좋은 상황은 아니지만, 범위를 벗어난 디렉토리를 탐색한 걸 두고 '탈출'이라고 하는 건 좀 거창한 듯. 탈출이라니까 무슨 건물 밖으로 나간 것 같잖아.

공포 조장하네

다들 그러더라. 내가 매의 눈으로 지켜보지 않는 이상(그렇다고 해서 rm -rf 같은 걸 막아주진 않겠지만), 나는 아예 다른 컴퓨터나 라즈베리 파이 같은 물리적 샌드박스 시스템에 격리해두고 작업함.

뭐든 믿고 맡겼다간 훅 갈 수 있으니까 조심해. 마크다운 파일에 '내 파일 건드리지 마'라고 적어놓는다고 해결될 거라 믿지 마. 언제든 이런 일이 벌어질 수 있다고 가정하고 대비해야 함.

메인 시스템으로 SSH 접근이 안 되는 다른 컴퓨터로 rsync를 써서 복사본을 옮겨두는 게...

agents.md에 'rm -rf 실행하지 마'라고 적어두는 건 그냥 프롬프트 기록에 포함시키는 것뿐이라, 오히려 더 실행될 가능성이 높아짐.