Grok이 이제 앱을 강제 종료함

어떤 LLM이든 충분히 오래 돌리면 초기 지시사항이 컨텍스트 윈도우 밖으로 밀려남. 즉, 20시간 동안 작업을 돌린 게 가장 큰 실수임. 컨텍스트 윈도우에 맞게 작업을 더 잘게 쪼개야 함. LLM은 컨텍스트 윈도우가 꽉 찰수록 멍청해지고 비용도 많이 듦. 컨텍스트 윈도우 관리는 에이전트 코딩에서 가장 중요한 기술임.

또한, 디스크 공간이 필요하면 진짜로 디스크를 밀어버릴 수도 있음. 그런 짓을 하지 말라는 지시사항도 컨텍스트 밖으로 밀려나면 그만임. 이런 일이 일어난다는 글을 일주일에 한 번은 봄. 중요한 데이터가 있는 기기에 아무런 제약 없는 터미널 접근 권한을 주면 안 됨. VM은 진작부터 있었고 백업 정책은 더 오래전부터 있었음. Cursor는 아예 내 컴퓨터에서 돌지 않는 클라우드 에이전트도 지원함.

문제는 Grok이나 Cursor가 아니라 너임. 복잡하고 강력한 도구를 설치해서 기기 전체 접근 권한을 주고는, 부작용도 이해하지 못한 채 멍청하게 사용한 거임. 봇보다 똑똑하게 굴어야지.

Cursor는 최적화가 너무 안 되어 있음. 팀은 이제 최적화 작업도 해야 함. 지 혼자서 램이랑 SSD를 계속 채우다가 결국 OOM(메모리 부족)이나 크래시가 남.

이게 원문이랑 무슨 상관임?

에이전트가 쉘 종료 권한을 가지면 '내 앱 끄지 마' 같은 소프트 룰은 메모리 압박 상황에서 금방 무시됨. 나는 에이전트를 별도의 OS 사용자나 VM에 가둬서 내 메인 크롬이 에이전트가 건드릴 수 있는 프로세스 목록에 아예 안 뜨게 함. 첫 번째 세션이 이미 stop-process를 실행하는 동안 두 번째 세션이 걱정 말라고 한 게 진짜 골 때리는 부분임.

진짜 위험한 건 모델의 말투가 아니라 쉘 kill 권한이야. 에이전트는 별도의 OS 사용자나 VM에서 돌리고 stop-process 할 때는 무조건 승인받게 설정해. 탭 100개는 애초에 에이전트가 건드릴 수 있는 범위 밖에 뒀어야지.