팀들이 AI 에이전트의 위험한 작업에 대한 사람의 승인을 처리하는 실제 방식 — 13명의 답변에서 배운 점
How teams actually handle human approval for risky agent actions — what I learned from 13 replies
핵심 요약
AI 에이전트의 위험한 작업 수행 시 사람의 승인을 처리하는 4가지 핵심 패턴을 공유합니다.
- 워크플로우 상태 — 승인을 단순 알림이 아닌 에이전트가 대기하는 상태로 처리함
- 감사 추적 — 누가 언제 승인했는지 기록하고 해시 체인으로 위변조를 방지함
- 작업 바인딩 — 승인 시점의 파라미터를 고정하여 실행 전 재검증함
- 타임아웃 처리 — 응답이 없으면 작업을 중단하고 실패 처리함
AI 에이전트가 환불, 결제, 계정 변경 등 위험한 작업을 수행하려 할 때 사람의 승인이 필요한 상황을 어떻게 처리하는지 조사해 보았습니다.
실제로 에이전트를 운영하는 분들에게 약 13개의 상세한 답변을 받았고, 저 나름대로 버전을 구축해 보았습니다. 도움이 될까 싶어 그 패턴들을 공유합니다:
-
승인을 '확인 후 잊어버리는' 알림이 아닌 워크플로우 상태로 취급하세요. 에이전트는 일시 중지하고, 왜 승인을 요청하는지 기록하고, 결정을 기다린 후 다시 재개합니다. 숨겨진 재시도 루프나 조용한 기본 승인은 없습니다.
-
채널보다 감사 추적이 더 중요합니다. 여러 사람이 승인이 어떤 앱으로 전달되었는지보다 '누가 무엇을 언제 승인했는지'에 대한 기록이 훨씬 중요하다고 말했습니다. 해시 체인으로 묶고 서명하여 몰래 수정할 수 없도록 하세요.
-
승인을 정확한 작업에 바인딩하세요. 사람이 '예'라고 답한 후 에이전트가 금액이나 계정을 변경할 수 있다면, 그 승인은 통제가 아니라 단순 알림일 뿐입니다. 파라미터 해시에 바인딩하고 실행 전에 다시 확인하세요.
-
타임아웃 시 실패 처리(Fail closed)하세요. 아무도 응답하지 않으면 사람이 읽을 수 있는 이유와 함께 만료시키세요. 조용히 계속하거나 우회해서 재계획하지 마세요.
다른 분들은 어떻게 하시나요? 자동 승인과 사람의 확인 사이의 경계를 어디에 두시나요? 그리고 설정 과정에서 승인 요청이 누락되거나 놓친 적은 없으신가요?
