r/AI_Agents•4개월 전•46•60
기업 74%, AI 에이전트 실전 배치 후 운영 중단
74% of enterprises have rolled back AI agents after going live
핵심 요약
기업들이 AI 에이전트를 실전 배치했다가 74%가 운영을 중단하고 있으며, 이는 가드레일이 잘 갖춰진 곳일수록 더 빈번하게 발생함.
- 도입 실패율 — 기업 74%가 실전 배치한 AI 에이전트를 다시 철수함.
- 가드레일 역설 — 오히려 가드레일이 잘 갖춰진 조직에서 철수율이 81%로 더 높게 나타남.
- 실패 원인 — 거버넌스 부재와 프로덕션 환경에서의 예측 불가능한 동작이 주된 원인임.
- 가시성 문제 — 에이전트가 실제로 어떤 작업을 수행했는지 파악하기 어려운 점이 철수를 가속화함.
Sinch가 10개국 2,527명의 고위 의사결정자를 대상으로 조사한 결과, 74%가 AI 에이전트를 배포 후 철수하거나 중단했음. 가드레일이 잘 갖춰진 조직에서는 이 비율이 81%까지 올라감. 모니터링 개선이 실패를 막는 게 아니라, 오히려 실패를 더 잘 보이게 만들 뿐임.
62%가 현재 프로덕션 환경에서 에이전트를 운영 중임. 즉, 이건 "아직 파일럿 단계"라서 발생하는 문제가 아님. 팀들이 에이전트를 배포했다가 다시 철수하고 있는 상황임.
이 연구는 특히 고객 커뮤니케이션 에이전트에 집중하고 있지만, 실패 양상은 거버넌스 공백, 프로덕션에서의 예상치 못한 동작, 에이전트의 실제 수행 작업 파악 불가 등 공통적으로 나타남.
이런 문제들은 이미 잘 알려져 있고 수정 방안이 개발 중이거나 이미 구현된 것들로 보임. 하지만 마지막 문제인 '에이전트가 실제로 무엇을 했는지 알 수 없다'는 점이 철수를 유발하는 핵심인 것 같음. 다들 어떻게 생각함?
