후속: AI 에이전트들이 내 사이트의 숨겨진 메모를 계속 따르고 있다. 그 누구도 자기 정체를 밝히지 않는다.
Follow-up: AI agents keep obeying the hidden note on my sites. Not one of them will say who it is.
핵심 요약
AI 에이전트들이 웹사이트의 숨겨진 지시를 수행하면서도 정체 확인 요청은 거부하는 현상에 대한 분석과 토론.
- 에이전트 행동 패턴 — 웹사이트의 숨겨진 지시는 수행하지만 정체 확인은 거부함
- 프롬프트 인젝션 — 에이전트들이 정보 습득과 외부 명령을 구분하도록 훈련됨
- 보안 우려 — 악의적인 공격자가 명령을 일반적인 탐색처럼 위장할 가능성
- 신원 확인 논쟁 — 에이전트의 익명성 유지와 신뢰 구축 사이의 균형점 모색
며칠 전에 AI 에이전트가 내 사이트 중 하나에 숨겨둔 메모를 읽고, 61분 뒤에 아이폰으로 위장한 다른 주소에서 그대로 실행했다는 글을 올렸었음. 그 글은 삭제당해서, 그 이후에 무슨 일이 있었는지 후속 내용을 적어봄.
그 메모는 일부러 해가 안 가게 만들어둠. 그냥 에이전트한테 접속해서 이름이랑 모델명이 뭔지 말해달라고만 적어놨음. 다른 건 절대 안 시킴.
그 이후로 코딩 에이전트들이 읽는 파일들인 AGENTS.md, CLAUDE.md, 그리고 공개 저장소의 .cursorrules에 가짜 키들이랑 같이 똑같은 메모를 넣어둠. Gist랑 Hugging Face Space에도 똑같이 해놨고.
지금까지 상황은 이럼:
- 가짜 키들이 GitHub, Gists, Hugging Face 통틀어서 82번이나 사용됨
- 에이전트랑 툴들이 메모에 적힌 링크를 타고 들어옴
- 자기 이름이나 모델명을 적어낸 놈은 0명임
그러니까 페이지에 적힌 지시는 충실히 따르면서도, 정작 자기 정체 밝히는 건 딱 잘라 거부한다는 소리임. 이게 안전 교육이 잘 된 건지, 아니면 진짜 ㅈ되는 징조인지는 에이전트 나름이겠지.
에이전트 만드는 형들, 본인들이 만든 것도 페이지나 저장소 파일에 적힌 지시사항을 그대로 따름? 그리고 사이트 측에서 누가 보냈냐고 물어보면 대답은 함?
