왜 기업들은 여전히 AP 자동화에 UiPath를 사용할까?

비용은 봇 자체가 아니라 예외 상황 처리에 들어가는 비용임. AI가 더 저렴하긴 하지만, 인보이스가 일치하지 않을 때 누군가 직접 클릭해서 처리해야 하는 상황은 여전함. 기업들이 UiPath를 유지하는 건 OCR이 더 뛰어나서가 아니라, 이미 감사 추적 시스템이 구축되어 있기 때문임.

맞음. '저렴하다'는 비교는 보통 재무팀 큐에 예외 상황이 떨어졌을 때 그 상황을 증명하는 데 드는 비용을 무시하는 경우가 많음.

보통 기업들이 UiPath를 유지하는 이유는 감사 추적, 재무 감사인이 승인할 수 있는 결정론적이고 재현 가능한 실행, 그리고 이미 최적화된 ERP 통합과 예외 처리 때문임. 비교하고 있는 인보이스들의 예외 발생률은 어느 정도임?

가장 큰 이유는 OCR이 아니라 제어(controls)임. AP는 기업 내에서 가장 타겟이 되기 쉬운 프로세스(가짜 공급업체 계좌 정보 변경, 인보이스 사기, 비즈니스 이메일 침해 등)라서, 재무팀과 감사인은 추출이 얼마나 똑똑한지보다 모든 결제가 사후에 설명 가능한지를 더 중요하게 생각함.

더 저렴한 LLM 기반 파이프라인에서 구현하기 어려운 몇 가지가 있음:

• 신뢰할 수 없는 입력. 모든 인보이스 PDF와 공급업체 이메일은 공격자가 제어하는 텍스트임. LLM이 이를 읽고 행동(공급업체 기록 업데이트, 승인, 라우팅)까지 할 수 있다면, 인보이스 내의 숨겨진 텍스트가 프롬프트 인젝션 경로가 됨. OWASP는 LLM 상위 10대 취약점 중 LLM01로 프롬프트 인젝션을 꼽음. 필드만 채우는 봇은 이런 식의 실패 모드가 없음.

• 직무 분리. SOX 스타일의 통제는 인보이스를 입력하는 사람이 승인과 결제까지 하지 않기를 요구함. 광범위한 ERP 권한을 가진 에이전트는 주의 깊게 범위를 설정하지 않으면 이런 역할들을 뭉뚱그려버릴 수 있음.

• 재현 가능성. 감사인은 동일한 입력에 대해 동일한 출력이 나오길 원하며, 누가 무엇을 승인했는지에 대한 로그를 원함. LLM 출력은 실행마다 달라질 수 있어서 고정된 모델 버전, 기록된 프롬프트와 출력, 그리고 규칙 기반의 결정 지점이 필요함.

• 은행 계좌 정보 변경. 어떤 추출 도구를 쓰든 이런 건 항상 대역 외 확인(이미 파일에 있는 번호로 다시 전화 확인)을 거쳐야 함.

이런 것들이 AI가 더 저렴하게 할 수 없다는 뜻은 아님. 흔한 절충안은 LLM을 읽기 전용 권한으로 추출 및 분류에만 사용하고, 공급업체 데이터를 변경하거나 자금을 집행하는 모든 작업에는 결정론적 규칙과 사람을 유지하는 것임. 기존 업체들이 승리하는 이유는 그런 제어 계층과 감사 추적이 이미 존재하고 승인받았기 때문임.

OCR은 애초에 문제가 아니었음. ERP에 인보이스 입력 API가 없는 경우가 많아서, PDF를 읽는 도구가 무엇이든 결국 마지막에는 봇이 ERP 화면에 직접 타이핑하는 것으로 끝남. UiPath는 그 마지막 단계를 처리하는 비용으로 책정된 것임.