r/langchain•4개월 전•3•8
프로덕션 환경에서 AI 에이전트의 도구 권한 부여는 어떻게 처리하시나요?
How are you handling Tool Authorization in production? (Beyond simple HITL)
핵심 요약
AI 에이전트의 도구 사용 권한을 확장성 있게 관리할 표준적인 방법이나 정책 엔진을 찾고 있습니다.
- 도구 권한 관리 — AI 에이전트의 SQL 및 API 접근 제어를 위한 확장 가능한 방안을 모색함
- Human-in-the-loop 한계 — 단순 읽기 쿼리까지 사람이 승인하는 방식은 대규모 운영에 부적합함
- 미들웨어 유지보수 — 하드코딩된 if/else 로직은 관리가 어려워 표준화된 정책 엔진을 선호함
- 정책 엔진 도입 — LLM을 위한 OPA와 같은 세밀한 권한 제어 솔루션의 존재 여부를 질문함
현재 LangChain/LangGraph를 활용한 에이전트 워크플로우를 개발 중인데, 에이전트가 SQL 데이터베이스와 몇몇 내부 API에 접근할 수 있도록 설계했습니다. 도구 호출(Tool calling)을 안전하게 처리할 최선의 방법을 고민하고 있습니다.
분명히 말씀드리자면, LangGraph의 Human-in-the-loop 기능은 알고 있지만, 파괴적이지 않은 단순 읽기 쿼리까지 일일이 사람이 승인하게 할 수는 없습니다.
모든 도구마다 커스텀 콜백이나 래퍼 함수를 작성할 수 있다는 것도 알지만, 수백 줄의 하드코딩된 if/else 미들웨어 로직을 작성하는 건 유지보수 측면에서 악몽처럼 느껴집니다.
AI 에이전트를 위한 세밀한 권한 제어(LLM용 OPA나 정책 엔진 같은)를 처리할 표준적이고 확장 가능한 방법이 아직 있을까요? 아니면 다들 그냥 도구 보호 로직을 하드코딩하고 잘 작동하기만을 바라는 건가요?
