실제 운영 환경의 RAG/LLM 앱 보안 심사는 어떻게 진행되고 있나요?

맞아, 확실히 나오고 있어. 근데 대부분의 심사는 여전히 데이터 흐름, 접근 경계, 로깅 같은 기존 질문들에 'LLM'만 끼워 넣은 수준이야. 까다로운 부분은 retrieval인데, 요청마다 동적으로 컨텍스트를 끌어오다 보니 에이전트가 볼 수 있는 권한을 훨씬 타이트하게 제어해야 해. 안 그러면 access model이 조용히 깨져버리거든.

응, 내가 궁금했던 게 바로 그 retrieval 부분이야. '사용자가 접근할 수 있는 것만 모델이 본다'라고 말하기는 쉽지만, 컨텍스트가 동적으로 조립되기 시작하면 훨씬 어려워지더라고. 네 경험상 그게 보통 retrieval 레이어에서 깔끔하게 해결돼, 아니면 앱 권한, vector indexes, 로깅 전반에 걸쳐서 지저분해져?

실제로는 retrieval 레이어 자체에서 권한을 강제하지 않으면 보통 지저분해져. 접근 제어가 앱 로직, 인덱스, 로깅으로 쪼개지는 순간 빈틈이 아주 빨리 나타나기 시작하거든.

이건 이미 실제 배포 환경에서 나오고 있어 — 특히 내부 데이터나 고객 데이터를 다루기 시작하면 더 그래. 우리가 본 건 보안 심사가 '인프라가 안전한가?'에서 '컨텍스트 흐름(context flow)이 통제되는가?'로 바뀌고 있다는 거야. 반복적으로 나오는 몇 가지가 있는데: 1. retrieval을 데이터 접근 레이어로 취급함 -> 심사관들은 embeddings보다 '누가 무엇을 검색할 수 있는지'에 더 신경 씀 -> 모델 선택보다 row-level / doc-level 권한이 더 중요함. 2. 프롬프트가 감사 대상이 됨...

최근에 훨씬 더 공식화됐어, 근데 주로 엔터프라이즈 쪽 이야기야. SMB는 여전히 AI 질문 몇 개 추가된 설문지 수준이고. 엔터프라이즈로 가면 OWASP LLM Top 10 같은 게 나오고 AI 전용 MSA 부속서가 등장하기 시작해. 솔직히 사람들을 진짜 곤란하게 만드는 건 표준 체크리스트에 없는 것들이야: 권한 인식 retrieval(permission-aware retrieval). 유저 A가 앱에서 문서 X를 볼 수 없다면, RAG 파이프라인도 거기서 청크를 추출하면 안 돼. 대부분의 팀은 공유 인덱스 하나로 출시하고...