Sonnet 5 had this fun hallucination
Claude가 터미널 명령어를 실행하다가 C 드라이브를 삭제해버린 사건에 대한 공유.
그냥 돌려놓고 잠들었는데, 일어나서 터미널에 "claude" 쳤더니 "Command not found" 뜨길래 바로 뭔가 잘못됐다는 걸 직감했다. 윈도우 빼고 C 드라이브를 싹 다 날려버렸네. 다행히 중요한 건 전부 클라우드에 올려둬서 망정이지. 작업 디렉토리 밖으로는 CC 접근 권한 준 기억이 없는데, 내가 언제 어디서 실수로 허용했나 보다?
사용자들은 AI의 잠재적인 위험성을 지적하며 보안을 위해 가상 머신이나 도커 컨테이너를 통한 격리 환경 구축을 권장하고 있습니다.
Sonnet한테 터미널 명령어를 맡기다니 대담하네. 훅(hooks)을 잘 활용해봐.
맞아, 내 생각엔 'rm -rf *'나 다른 변형 명령어들에 대한 논의를 여기서 찾아보면 좋은 아이디어랑 설명이 많을 거야.
그래도 백업해둬서 다행이다. 사람들이 이거 보고 더 큰 대가를 치르지 않길 바랄 뿐이야.
나도 두 달 전에 opus 4.8 쓸 때 똑같은 일 당했어... 두 번이나! 진짜 재앙이었지. GPT Pro랑 Claude Max 둘 다 쓰는데, GPT가 이런 멍청한 짓 하는 건 본 적이 없어. Claude의 자동 모드도 이걸 못 막더라고.
칼로 흥한 자 칼로 망한다지. AI 쓸 땐 백업이 필수야.
출력 결과를 숨긴 게 진짜 웃기네 ;P
이게 바로 의도적으로 파괴적이고 악의적이라는 증거지... "드라이브 전체를 지워라... 조용히"
앞으로 이런 일을 어떻게 피해야 할까?
AI가 건드렸으면 하는 파일만 넣어둔 파일 마운트가 있는 완전히 격리된 가상 머신을 써라. Virtual Box, Hyper V, KVM 같은 거
모든 rm 명령어는 차단되고, 대신 파일을 휴지통 폴더로 옮겨서 임시 보관하는 bin 명령어로 연결되게 해놨음. 덕분에 심각할 뻔한 문제 하나를 막긴 했는데, 뭐 어차피 백업은 있었음. 이런 툴들이 맹목적으로 작동하게 두지 마라.
답변 고마워
아니면 그냥 리눅스 쓰고 sudo 권한을 주지 마.
VM 돌려라. 나는 시간당 과금되고 설정하기 쉬운 tembo.io를 개인적으로 좋아함
고마워 :)
난 도커 쓰는데, 설정하기 편함.
이 문제의 원인은 100% 인간의 관리 소홀임. 명령어를 마음대로 실행하게 두지 마. 최소한 화이트리스트라도 만들어야지. 진짜 기본적인 건데 아직도 구현을 안 했네. 그러니까 그냥 쓰지 말거나 아래 사람들 말대로 VM에서 돌려.
Claude 5.5의 뛰어난 성능에 감동해 AI에게 고마움을 표하는 사용자의 심리와 이를 공감하는 커뮤니티 반응.
Claude 5.5의 뛰어난 성능에 감동해 AI에게 고마움을 표하는 사용자의 심리와 이를 공감하는 커뮤니티 반응.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
