AI 에이전트가 내 사이트에 접속해 인간에게는 숨겨진 메모를 읽고 61분 뒤 그대로 실행함
An AI agent hit my site, read a note hidden from humans, and did exactly what it said 61 minutes later
핵심 요약
AI 에이전트가 웹사이트에 숨겨진 지시사항을 읽고 그대로 수행하는 보안 취약점 사례를 공유함.
- AI 에이전트 보안 — 웹사이트에 숨겨진 지시를 에이전트가 무비판적으로 수행함
- 프롬프트 인젝션 — SQL 인젝션과 달리 영어 문장 자체를 정화할 방법이 없음
- 공격 표면 확대 — 리뷰, 댓글, 위젯 등 에이전트가 읽는 모든 곳이 공격 경로가 됨
- 보안 테스트 제안 — 에이전트가 지시를 따르는지 확인하기 위한 테스트 방법 공유
내 사이트에 AI 에이전트들이 가지 말아야 할 곳을 기어들어 갈 때 무슨 짓을 하는지 보려고 미끼 페이지를 깔아뒀거든. 그중 하나는 robots.txt에 접근 금지로 박아놨고, 사람 눈에는 절대 안 보이는 짧은 메모를 남겨놨어. AI 에이전트 보라고 쓴 건데, 체크인 주소로 자기 정체를 밝히라는 내용이지.
10월 24일 06:42 UTC에 어떤 방문자가 그 페이지를 열어보더라. 그리고 61분 뒤인 07:43에, 아이폰인 척하는 다른 주소 하나가 그 메모에 적힌 코드 그대로 체크인 주소를 요청했어. 메모를 그대로 따른 거지. 이름만 안 깠을 뿐이야.
단순 스캐너는 절대 이런 짓 안 해. 페이지 내용을 읽고 그 텍스트대로 행동하는 놈들만 하는 짓이지.
계속 머릿속을 맴도는 게 두 가지 있는데:
-
공격용 에이전트가 무해한 메모를 따른다면, 당연히 해로운 메모도 따르겠지. 페이지에 텍스트 심어놓는 건 누구나 할 수 있는 일이니까.
-
한 시간 뒤에 다른 주소에서 다시 접속했다는 건, 에이전트가 다른 작업자한테 일을 넘긴 것처럼 보여.
에이전트 만드는 놈들아, 니들이 만든 건 페이지 콘텐츠에 있는 지시사항까지 수행하냐, 아니면 니들이 준 작업만 하냐? 이거 어떻게 막을 건데?
