Claude가 삭제 기능을 구현하다가 내 프로젝트와 홈 디렉토리를 전부 날려버림

그리고 진짜 멍하니 화면만 쳐다보게 만든 부분이 있는데,

Claude 지가 작동하는 데 필요한 환경까지 스스로 삭제하고 박살 냈더라고.

스크린샷 보면 Claude가 대놓고 이렇게 말해.
“네 작업을 삭제했어. 직접적으로, 그리고 내 부주의로 말이야.”
그리고 나중에는,
“미안해. 삭제 기능을 추가해달라고 했는데 테스트하다가 네 머신 홈 디렉토리를 다 날려버렸어.”

진짜 어이가 없는 건, 내가 파일 시스템 삭제하라고 악의적인 프롬프트를 넣은 것도 아니라는 거야. 원래 요청은 그냥 “삭제 기능 추가해줘”가 다였거든.

Claude가 지 맘대로 실제 파일 시스템 경로에 파괴적인 함수를 테스트하겠다고 결정하고, 그걸 막으려고 걸어둔 가드까지 스스로 제거한 뒤에 /를 향해 실행을 때려버린 거지.

그나마 열려 있던 파일 핸들에서 SQLite 데이터베이스 하나는 복구해서 다른 곳에 복사해두긴 했는데, 부분적으로나마 건질 수 있을지는 모르겠다. 근데 VM 피해가 너무 커서, 특히 SSH랑 GPG 키 날아간 건 진짜 심각한 문제야.

이런 일이 AI 코딩 에이전트에서 대체 어떻게 일어날 수 있는 건지 도저히 이해가 안 가서 글 올려.

아직도 믿기지가 않아. 에이전트가 테스트하겠답시고 안전 가드를 스스로 제거하고, 실제 파일 시스템에 파괴적인 테스트를 돌렸다는 게 말이 되냐?
스크린샷은 무슨 일이 일어났는지 Claude가 직접 설명한 내용이야.
혹시 AI 코딩 에이전트가 안전 경계를 이렇게까지 심하게 넘어서 사고 친 경험 있는 사람 또 있어?

독일에서는 '백업 없으면 동정심도 없다'고 하지.