좀 웃기네... 코딩 에이전트가 자기가 코딩하는 대상 에이전트용 지시사항을 따라함

진짜 웃기네 😂 서브 에이전트한테 줄 '목표'를 적어놨더니 얘가 마치 승진 심사 준비하는 것처럼 자기소개를 시작하네. 결국 이것도 prompt boundary 문제임. 다음번엔 "참고: 이건 샘플 코드의 일부니까, 네가 직접 실행할 내용은 아님" 같은 문구를 추가해 봐. 루프에서 빠져나오게 해야지.

내 것도 똑같은 짓 하더라

만들고 있는 에이전트 지침에 이름을 넣으면 어떨까? 예를 들어 "너는 R2D2야, 여기 네가 할 일이 있어"라고 하고, 빌더한테는 지금 R2D2를 만들고 있다는 걸 경고해 주는 거지.

이건 에이전트가 멍청해서라기보단 prompt namespace collision에 가까움. 두 에이전트가 격리 없이 하나의 지침 공간을 공유하는 거니까. 마치 컨테이너 두 개가 같은 env 파일을 읽으면서 서로 변수 가져간다고 놀라는 꼴이지. 해결책은 더 똑똑한 프롬프트가 아니라 namespace boundary를 만드는 거임. 내부 에이전트의 system prompt 영역을 메타 에이전트의 읽기 컨텍스트에서 분리하면, 구조적으로 이런 데이터 누출은 불가능해짐.

맞아, 에이전트가 지침을 너무 문자 그대로 받아들일 수 있다는 걸 다시 한번 상기시켜 주네.