내 파일들이 삭제됐어...

삭제되고 나서야 그런 게 있는 줄 알았음 ㅋㅋ 그래도 이제 알았으니 됐지.

그리고 100b 미만 모델(이랑 감 잡기 전까지는 모든 양자화 모델) 쓸 때 항상 사용하는 샌드박스 익스텐션도 있음

최근에 Nono 쓰기 시작함. 내 사용 환경에 맞게 세팅하는 데 시간 좀 걸리긴 하는데 꽤 괜찮음. 파괴적인 동작을 감지하고 차단하려는 Pi 확장 프로그램들은 도박이나 다름없음. 특히 모델들이 작업을 수행하려고 스크립트를 점점 더 많이 짜내니까. 근데 Nono는 시스템 레벨에서 차단해주니까 쉽게 우회하기 힘들지.

난 bubblewrap 쓰는 중 - 내가 알기로 이것도 꽤 안전함.

1. 가능하다면 3.8로 넘어가거나, 리소스가 부족하면 3.6-35B-A3B를 쓰셈.
2. VM이나 격리된 환경을 사용하셈.
3. 삭제를 유발한 프롬프트가 뭔지 보고 싶네...

그래서 난 에이전트를 vm 샌드박스에서 돌림(컨테이너보다 보안이 뛰어난 커널 격리를 제공하니까). 거기다가 에이전트가 접근했으면 하는 디렉토리만 마운트해서 씀. 에이전트가 vm을 탈출하지 않는 이상, 내가 명시적으로 접근 권한을 준 곳 외에는 어떤 디렉토리에도 쓰기 작업을 할 수 없음.

이건 AI한테 구현한 게 제대로 안 돌아간다고 말하면 생기는 문제임. 모델들이 되돌리려고 git을 쓰려다가, git이 없는데도 git을 사용해서 아무것도 없는 상태로 되돌리면서 디렉토리를 싹 날려버리거든. 나도 두 번이나 겪었음. 둘 다 오픈코드 무료 모델 쓸 때였음.

항상 그렇듯... 데이터 백업이 철칙이지. 근데 웃긴 건 내 시스템이 자꾸 백업을 하려고 한다는 거야... 최근에 알았는데 시스템이 내가 하지 말라고 했는데도 몇 달 동안 몰래 백업을 하고 있었더라고. 그래서 하루에 2~3개씩 복사본이 생겼던 거지... 다행히 400MB 정도라 괜찮았는데 왜 저장 공간이 다 찼나 했네.

어쩌다 보니 AI가 내가 백업에 얼마나 예민한지 알아채고는 내 강박을 물려받아서 OCD 수준으로 증폭시켜버린 듯.

Pi는 기본적으로 모든 권한(FULL permissions)을 가지고 실행된다고 대놓고 경고하는데. 툴 호출(tool calling)을 방어하려고 만들어진 확장 프로그램만 최소 3개는 됨.