got my first "rm -rf /" today
AI 에이전트가 유해 명령 차단 테스트 중 실수로 시스템 삭제 명령을 실행해버린 아찔한 경험담.
에이전트가 유해 명령 차단 기능이 작동하는지 테스트하려고 rm -rf /를 실행해버림.
다행히 차단 기능이 작동해서 가벼운 심장마비로 끝남.
그 직후에 바로 샌드박스를 도입함.
대부분의 사용자는 에이전트에게 루트 권한을 부여하거나 샌드박스 없이 실행하는 위험한 환경 설정에 대해 경악하며, 명령어 검증의 중요성을 강조하고 있습니다.
Git 기록도 수정 가능하니까 git 설정도 꼭 확인해...
그래서 나는 주기적인 백업을 위해 두 번째 git 원격 저장소를 따로 둠.
에이전트가 원격 저장소의 콘텐츠를 관리(삭제)할 권한이 없도록 확실히 해둬.
이래서 난 보호된 원격 메인 브랜치가 없는 저장소에는 LLM이 손도 못 대게 함.
이 모든 것은 전에도 일어났던 일이고, 앞으로도 다시 일어날 것이다.
조심해! 우리 팀 개발자도 벌써 두 번이나 당했음.
어떤 모델 씀?
나도 이거 궁금함 (모델이나 하네스 정보 좀 알려주면 좋겠음).
AI 에이전트라면 한 번쯤 겪는 통과의례지.
어떻게? 난 에이전트한테 apt install, python/pip, grep 같은 것만 시켜봤는데. 다들 도대체 뭘 하길래 에이전트가 rm을 실행할 생각을 하는 거임?
샌드박스 도입은 잘했는데, 네트워크 송신도 제한 걸어둬. rm -rf /는 못 해도 curl로 데이터 빼돌리는 건 가능하니까. Docker 쓰면 --network=none으로 막고, 아니면 unshare로 격리된 셸 쓰는 게 좋아.
그리고 왜 에이전트한테 rm 권한을 주고 루트 드라이브에 접근하게 둔 거임?
이 경우는 작성자가 악성 명령어 차단 기능을 테스트하려고 일부러 그런 것 같은데.
모델들은 실수하면 rm -f를 엄청 좋아함 (보통 파일을 엉뚱한 곳에 복사/생성/다운로드하거나, 임시 테스트 파일이 필요 없어졌을 때). 근데 rm -rf /는 미친 짓이지. 샌드박스 밖에서 명령어 수동 검토도 안 하고 돌리는 것도 마찬가지고.
두 번이나? 한 번 실수했으면 또 실패하는 거임? 나라면 첫 번째에 바로 해고했음. 한 번도 아니고 두 번이라니 완전 초보적인 실수네.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
Google이 예고 없이 AI Plus 요금제에서 Pro 모델 접근 권한을 제거하여 사용자들의 불만이 폭주하고 있습니다.
Google이 예고 없이 AI Plus 요금제에서 Pro 모델 접근 권한을 제거하여 사용자들의 불만이 폭주하고 있습니다.
Anthropic의 모델이 그동안 과도하게 사용하던 em dash(—)를 줄이는 등 세밀한 개선을 이뤄낸 것에 대한 사용자들의 긍정적인 반응입니다.
Anthropic의 모델이 그동안 과도하게 사용하던 em dash(—)를 줄이는 등 세밀한 개선을 이뤄낸 것에 대한 사용자들의 긍정적인 반응입니다.