r/AI_Agents•약 8시간 전•29•13
AI 인프라 보안은 어떻게 관리하고 계신가요?
How are you securing your AI infrastructure?
핵심 요약
AI 에이전트의 권한과 보안 경계를 어디에 설정하고 관리할지에 대한 실무적인 논의입니다.
- 보안 경계 — 에이전트 프롬프트가 아닌 시스템 경계나 게이트웨이에서 정책을 강제함
- 권한 관리 — 에이전트에게 최소한의 권한만 부여하고 역할 기반으로 도구를 제한함
- 감사 기록 — 차단된 호출의 원인을 파악하기 위해 전체 실행 컨텍스트를 기록함
- 정책 중앙화 — 개별 팀이 규칙을 만들기보다 중앙화된 정책 등록 및 관리 체계를 구축함
에이전트들이 내부 시스템에 접근해서 지들 맘대로 행동하기 시작하면 보안 경계가 어디까지인지 가늠하기가 존나게 어려워짐. 우리가 지금 쓰는 통제 수단들은 대부분 사람이 앱 하나를 쓰는 걸 전제로 만들어진 거거든. 에이전트는 한 곳에서 정보를 긁어온 다음에 다른 데다가 명령을 날릴 수 있는데, 그럼 대체 어디서부터 막아야 하는 거냐?
다들 실무에선 이거 어떻게 처리하고 있냐? 에이전트 계층에서 정책을 강제하는지, 아니면 게이트웨이 쪽인지, 그것도 아니면 실제 시스템이랑 맞닿은 곳에서 막는지 궁금함. 그리고 뭔가 차단됐을 때 에이전트가 실행한 기록을 어디까지 남겨두냐? 왜 차단됐는지 그 앞뒤 맥락을 모르면 그냥 호출 하나 거부된 걸로는 아무것도 알 수가 없잖아.
앱 팀마다 일일이 자기들만의 규칙을 만들게 시키는 건 관리하기 빡세질 게 뻔한데 말이야.
