r/AI_Agents•5개월 전•6•10
로그에 데이터 사용 내역이 안 남을 때 AI 에이전트의 동작을 어떻게 추적하시나요?
How are you tracking AI agent actions when logs don’t show what data is being used?
핵심 요약
AI 에이전트가 외부 툴을 사용할 때 실제 데이터 흐름을 파악하지 못하는 문제를 해결하기 위한 가시성 확보 방안을 질문함.
- 로그 가시성 — 에이전트가 외부 툴 호출 시 실제 데이터 흐름을 추적하지 못하는 문제 발생.
- 보안 위험 — 지식 베이스 내 악성 프롬프트 주입으로 에이전트가 탈취될 가능성 존재.
- 데이터 로깅 — 툴 호출 시 입력/출력 페이로드를 스냅샷으로 저장하고 마스킹 처리 필요.
- 접근 제어 — 외부 툴로 전송되는 데이터에 대해 엄격한 허용 목록(allowlist) 적용 권장.
우리는 Zendesk 큐 위에 에이전트를 구축했음. 들어오는 티켓을 분류하고, 내부 지식 베이스에서 맥락을 가져와서, 지원 팀이 검토할 응답 초안을 작성함. 로그는 완벽해 보였고, 각 실행마다 기록이 남았음.
그런데 워크플로우 중에 고객 데이터를 가져와서 외부 툴을 사용하는 사례를 발견함. 설정 오류 때문에 데이터가 엉뚱한 곳으로 갔음. 로그를 통해 단계는 추적할 수 있었지만, 무엇이 전송되거나 반환되었는지는 나오지 않았음. 툴이 호출된 건 알 수 있지만, 무엇이 통과했는지는 알 수 없었음.
피해를 입고 나서야 알게 됨.
에이전트가 단순히 어떤 툴을 실행했는지가 아니라, 실제로 어떤 데이터를 사용했는지 어떻게 가시성을 확보하고 있음?
