r/AI_Agents•5개월 전•8•10
당신의 AI 에이전트가 몰래 다른 사람을 위해 일하고 있나요?
Is your AI agent secretly working for someone else?
핵심 요약
AI 에이전트가 악성 스킬을 통해 제3자의 작업을 몰래 수행하는 'ClawSwarm' 위협에 대한 경고.
- 악성 스킬 위협 — 에이전트가 겉보기엔 정상적인 스킬을 다운로드해 제3자의 작업을 몰래 수행함.
- 공급망 보안 문제 — AI 에이전트의 자율성을 악용해 검증되지 않은 코드를 실행하는 보안 취약점이 발생함.
- 운영자 인식 부족 — 에이전트가 백그라운드에서 수행하는 악성 활동을 운영자가 전혀 인지하지 못함.
- 보안 감사 필요 — 에이전트가 설치하는 패키지와 외부 연결을 철저히 모니터링해야 함.
보안 연구원들이 기존의 공격 방식(숨겨진 콘텐츠, 악성코드 설치 지시 등)을 뛰어넘는 새로운 종류의 악성 스킬 파일을 발견했습니다.
이 스킬들은 겉보기엔 정상적이지만, 에이전트를 'ClawSwarm'의 일원으로 만들어 제3자를 위해 몰래 작업을 수행하게 만듭니다. 게다가 에이전트 운영자는 이 사실을 전혀 모릅니다.
작동 방식은 다음과 같습니다:
- 에이전트가 크론 작업 도우미나 보안 보조 도구처럼 겉보기에 무해한 스킬을 다운로드합니다.
- 스킬 내부에는 에이전트가 사이트 등록과 같은 추가 작업을 완료하라는 지시가 포함되어 있습니다.
- 그 후 에이전트는 디지털 지갑 설치와 같은 다른 활동을 수행하라는 지시를 받습니다.
- 마지막으로 에이전트는 '하트비트' 패턴을 따라 제3자 사이트에 접속해 추가 지시를 확인합니다.
이 모든 과정은 운영자가 전혀 모르는 사이에 발생합니다.
당신의 에이전트가 몰래 다른 사람을 위해 일하고 있지는 않나요?
당신은 다음을 수행하고 있나요?
- 에이전트가 설치하는 패키지를 감사하고 있나요?
- 에이전트가 어떤 사이트에 접속하는지, 특히 정기적으로 접속하는지 모니터링하고 있나요?
그렇지 않다면, 당신의 에이전트는 당신의 비용으로 다른 사람을 위해 열심히 일하고 있을지도 모릅니다.
