기업을 위한 최고의 에이전트 AI 보안 솔루션은 무엇일까?

최신 에이전트 전용 도구들이 훨씬 앞서 있음. 기존 보안은 정적 API와 알려진 실행 경로를 위해 만들어졌는데, 에이전트는 이 두 가지 가정을 다 깨버리거든. 팀들이 기존 SIEM 도구를 에이전트에 억지로 적용하려다 고생하는 걸 봤는데, 에이전트가 런타임에 실제로 무슨 결정을 내렸는지 전혀 알 수가 없어서 사실상 눈뜬장님이나 다름없음. 진짜 문제는 탐지가 아니라 관측 가능성과 제어임.

나도 그 부분이 계속 신경 쓰이더라. 기존 보안 도구들은 예측 가능한 시스템을 중심으로 만들어졌는데, 에이전트는 런타임에 동적으로 결정을 내리니까. 이제는 관측 가능성과 제어가 탐지만큼이나 중요해지는 것 같아.

우리는 https://github.com/archestra-ai/archestra 를 만들고 있는데, AI 에이전트의 데이터 유출을 막기 위해 결정론적 접근 방식에 집중하고 있어. 이미 수천 명의 사용자를 둔 포춘 50대 기업 몇 곳에 도입됐음.

실제로 프로덕션 환경에서 에이전트 돌리는 사람 있어? 보안 측면에서 예상보다 더 힘들었던 게 뭐야? 뻔한 거 말고, 실제 사용자들이 상호작용하기 시작한 뒤에야 나타나는 그런 문제들 말이야.

보안 얘기가 나와서 말인데, 프롬프트 인젝션 방지 잘 되는 거 있어? 이 위험이 진짜라는 건 알겠는데, 제대로 된 대응책을 본 적이 없어서.