r/ClaudeAI•3개월 전•48•26
에이전트가 중간에 지시사항을 무시하기 시작할 때를 잡아내는 아주 간단한 방법
A dead-simple way to catch when your agent starts ignoring your instructions mid-session
핵심 요약
에이전트 세션 중 지시사항 준수 여부를 확인하기 위해 매 응답마다 특정 문구를 넣게 하는 '카나리아' 기법 공유.
- 카나리아 기법 — 매 응답마다 특정 문구를 포함시켜 에이전트의 지시사항 준수 여부를 실시간으로 모니터링함.
- 세션 성능 저하 — 컨텍스트가 길어질수록 에이전트가 초기 지시를 잊어버리는 현상을 조기에 감지함.
- 대안적 접근 — 단순히 문구를 넣는 것보다 실제 작업 결과물에 대한 검증 로직을 추가하는 방식이 더 효과적일 수 있음.
- 자동화된 감지 — 로그를 grep하거나 별도의 스크립트를 통해 지시사항 위반을 결정론적으로 잡아내는 방식이 권장됨.
긴 에이전트 세션을 돌리다 보면, 컨텍스트가 차오르면서 어느 순간부터 규칙을 조용히 무시하기 시작하는 현상을 계속 겪었습니다. 이미 상황이 엉망이 되기 전까지는 알아차리기도 힘들었죠.
동료의 팁 하나: 에이전트가 모든 응답을 당신의 이름을 부르며 시작해야 한다는 규칙을 추가하세요. 에이전트가 제대로 집중하고 있을 때는 아주 쉽게 지킬 수 있는 규칙입니다.
그걸 멈추는 순간이 바로 다른 지시사항들도 놓치고 있다는 신호입니다. 광산 속의 카나리아와 같죠. 새가 울음을 멈추면 뭔가 잘못된 겁니다. 추가하기 쉽고, 로그에서 grep으로 찾아낼 수도 있습니다.
세션이 저하되고 있으니 컨텍스트를 초기화해야 한다는 아주 신뢰할 만한 조기 경보가 되어주고 있습니다. 혹시 이런 카나리아나 트립와이어를 쓰는 분 또 계신가요? 지시사항 이탈을 감지하기 위해 또 어떤 저비용 신호를 지켜보고 계신가요?
