루프 속의 유령: 인간의 개입 없이 긴 AI 프롬프트 유지하기

흥미롭네요... 당신은 이런 흐름을 지향하는군요.
인간 → AI → AI → AI → AI → 완료된 결과물

사용자가 임무를 주고 떠났다가, 나중에 돌아와서 완성된 결과물을 확인하는 방식이죠.
그런데
인간은 단순히 '계속하기' 버튼만 누르는 건가요, 아니면 실제로 판단, 수정, 우선순위 설정, 상식적인 검토를 제공하는 건가요?

부분적인 문제는 제가 보기에 업데이트가 될 때마다 AI의 사고 시간을 제한하거나, 토큰 수를 줄이거나, 요약하게 만든다는 점입니다. 저는 기본 모델들은 충분히 좋다고 생각해요. Fable 관련 기사들을 봐도 점점 더 AI를 의도적으로 멍청하게 만들어서 프롬프트를 다시 짜게 만든다는 내용이 많아지고 있죠.

저는 시스템에 이렇게 말할 수 있는 방법을 원했습니다: '사고 시간의 80%만 사용하고, 전부 다 쓰지 마라. 그리고 작업을 분할해서 그 사이를 계속 이어가라.' 제 생각에 당신은 에이전트에게 작업을 주고, 그들에게 …

허락해주신다면 그냥 혼잣말 좀 해볼게요:
AI는 자기가 다음 단계를 안다고 생각할 수도 있겠죠. 근데 틀릴 수도 있어요. 아주 크게 틀릴 수도 있죠. 우린 이미 AI가 자신 있게 이런 걸 만들어낼 수 있다는 걸 알잖아요:

잘못된 연구 요약.
엉망인 사업 전략.
고장 난 소프트웨어.
틀린 법적 추론.
잘못된 재무 분석.

자율 루프의 위험성은 AI가 실수를 복구 불가능할 정도로 누적시킬 수 있다는 거예요.
아마 인간을 루프에서 빼고 고스트를 넣는 대신... 인간이...

그게 바로 다들 만드는 거버넌스 프로토콜이죠. 저도 두 가지가 있는데, 하나는 자동 조종이고 다른 하나는 AI를 제어하되 수동으로 운전하는 모드예요.

근데 GITL에 미니 체크 시스템으로 그라운딩 프로토콜을 넣어두긴 했어요 :) 이것저것 만지는 거 좋아하는 분들을 위한 고급 기능이랑 커스터마이징 옵션도 몇 개 있고요 ;) 너무 부담 주기는 싫어서요.