AI 자동화에 대해 배울수록 AI에게 통제권을 덜 주고 싶어진다
The more I learn about AI automation, the less control I want to give the AI
핵심 요약
AI 에이전트가 모든 것을 처리하기보다, AI는 정보 정리만 담당하고 실제 실행은 일반 소프트웨어로 제어하는 방식이 훨씬 안정적임.
- 자동화 설계 철학 — AI는 비정형 정보 추출에 활용하고 실행은 결정론적 소프트웨어에 맡김
- 실무의 복잡성 — 데모와 달리 실제 비즈니스 메시지는 예외 상황이 많아 완전 자동화가 위험함
- 디버깅과 신뢰성 — AI가 판단만 하고 실행은 시스템이 제어해야 문제 발생 시 원인 파악이 쉬움
- 자동화의 본질 — 단순히 결정을 많이 내리는 것보다 사후 처리가 필요 없는 효율적인 워크플로우가 중요함
현재 월 5만 달러 수익을 내는 자동화 에이전시를 목표로 빌드업 중임.
그건 목표일 뿐이고, 지금 당장 그 정도 규모라는 건 아님.
처음 AI 워크플로우에 대해 생각하기 시작했을 때, 나는 모델이 프로세스의 최대한 많은 부분을 처리하게 하는 게 목표라고 가정했음.
메시지를 읽고, 요청을 이해하고, 시스템을 업데이트하고, 조치를 취하고, 응답을 작성하는 것까지 말이지.
데모에서는 깔끔해 보임. 하지만 실제 비즈니스 메시지는 보통 그렇게 깔끔하지 않음.
누군가는 이메일 하나에 여러 가지를 물어볼 수도 있음. 중요한 날짜를 빼먹거나, 같은 요청을 두 개의 다른 채널로 보낼 수도 있지. 한 부분은 일상적인 행정 업무일 수 있지만, 다른 부분은 결제, 환불, 예약 변경 등 자동으로 처리되면 안 되는 일일 수도 있음.
그래서 내가 지금 지향하는 구조는 이거임:
AI는 지저분한 정보를 처리한다. 일반 소프트웨어가 그다음 단계를 제어한다.
모델은 요청을 분리하고, 유용한 세부 정보를 추출하고, 상황을 요약하고, 누락된 정보를 식별하는 데 도움을 줄 수 있음.
그 후에는 일반적인 워크플로우 로직이 데이터를 확인하고, 중복 작업을 방지하고, 비즈니스 규칙을 적용하고, 권한을 제어하며, 결과가 심각할 수 있는 경우 승인을 요구하게 만드는 거임.
AI 에이전트가 전체 프로세스를 제어한다고 말하는 것보다는 덜 흥미로워 보일 수 있음.
하지만 신뢰하고 디버깅하기는 훨씬 쉬워 보임.
문제가 발생했을 때, 모델이 입력을 잘못 이해했는지, 기반 데이터가 불완전했는지, 아니면 워크플로우 규칙 중 하나를 변경해야 하는지 확인할 수 있으니까.
나는 최고의 자동화란 가장 많은 결정을 내리는 것이 아니라는 생각이 들기 시작했음.
그것이 무엇을 했는지 조사하기 위해 누군가에게 두 번째 일거리를 만들어주지 않으면서 유용한 작업을 완료하는 것이 최고의 자동화임.
실제 워크플로우를 구축하는 사람들에게 묻겠음. 모델의 판단과 일반 소프트웨어 사이의 경계는 어디에 긋고 있음?
