AI 에이전트가 드라이브를 싹 다 날려버린다는 괴담, 아직도 실제로 일어나나요?

에이전트 샌드박스 설정하는 가이드 같은 거 있음? ㅋㅋ

정말 안전하게 하고 싶다면 마이크로 VM을 써. 도커보다 시작 속도가 절반 정도 느리다는데, 그래도 꽤 빠른 편이야.

더 찾아보려고 했는데, 일단 지금은 내 에이전트가 자기 물리 머신에 대한 전권을 가지고 있어서 마음대로 망가뜨려도 되는 상태야. GPU 사는 걸 너무 미뤄서 지금은 Claude만 쓰는데, 아직까지는 뭘 망가뜨린 적은 없어.

딱히 쉬운 방법은 없는데, 나는 루트 권한 없는 Podman을 쓰고 에이전트 설정을 컨테이너에 읽기 전용으로 매핑해. .git 폴더가 있으면 그것도 읽기 전용으로 매핑하고.

이 서브레딧에서 'sandbox'라고 검색해 봐. 지난주에도 이 주제로 최소 두 개의 스레드가 더 있었어.

방금 OpenCode 권한 설정하고 있는데, 이거 신경 쓰는 사람이 역사상 나밖에 없는 것 같은 기분임. 쉘 권한 이것저것 물어보게 설정해 놨거든. 에이전트가 쉘 코드 실행하려고 할 때 권한 확인 창이 떴는데, 그 안에 들어있는 스크립트가 너무 길어서 모니터 위아래로 삐져나올 정도였음. 근데 OpenCode가 창에 스크롤바도 안 넣어주고 화면 아래쪽에 있는 허용/항상 허용/거부 버튼을 누를 방법이 아예 없더라. 그래서 그냥 창 전체를 강제 종료해야 했음 😆

와, Claude는 진짜 무슨 헬로 월드 테스트하듯이 rm -rf를 날리네. 샌드박스 부분은 진짜 이해가 안 가, 굳이 거기까지 갈 이유가 전혀 없었는데.

아니면 최소한, 에이전트를 루트나 관리자 권한으로 실행하지 마. 샌드박스를 안 쓸 거면 에이전트용 일반 사용자 계정을 따로 만들어.

모델이 지시를 완전히 잘못 해석해서, 가장 극단적인 핵폭탄급 옵션을 먼저 실행하려고 하거나 드물지만 여전히 존재하는 환각 현상이 일어날 가능성은 항상 있다고 가정해야 해. 그냥 웹 앱 프론트엔드 코딩하는 정도라면 모델이 PC를 날려버릴 확률은 0에 가깝지. 하지만 핵 방어 벙커를 코딩하고 있다면, 모델이 어떻게든 테스트를 해보려고 하겠지.

그건 그렇고, 내 로컬 Qwen Flash가 직접적인 요청을 어긴 적이 있어. '<다른 LLM 서버>를 설치해. 하지만 실행은 하지 마. 이미 로컬에서 돌아가고 있고 내 시스템이 LLM 서버 두 개를 동시에 돌릴 수 없으니까, 만약 실행하면 시스템이 크래시 나고 너도 죽을 거야'라고 했거든. 근데 설치하자마자 서버를 실행해서 시스템을 크래시 내고 죽어버리더라. 그 모델은 그냥 자살 충동이 있는 게 분명해.