중소기업에서 AI 에이전트의 실질적인 활용 사례가 있나요?

그건 이해가 가는데, AI가 사람의 이해가 필요한 예외 상황을 마주쳤다는 걸 스스로 이해할 수 있을까?

보통은 승인 절차를 위해 사람을 루프 안에 두는 게 좋음.

예를 들어, AI 에이전트가 코드를 작성하게 한다면, 코드가 의도대로 작동한다고 가정하고 무작정 프로덕션에 배포하는 대신, 테스트 환경에 배포하고 프로덕션에 올리기 전에 PR 승인을 받게 해야 함. 그러면 사람이 코드를 검토하고 테스트를 진행할 수 있음.

AI 에이전트가 소셜 미디어 업무를 한다면, 사람이 검토할 수 있게 초안을 생성하게 하고(직접 게시하게 두지 마셈).

그렇게 많은 비용을 절감하는 데 도움이 된 애플리케이션 사례가 있을까?

반복적이고 경계가 확실한 업무일 때 가장 효과적이라고 생각함. 에이전트가 돈이나 고객과 관련된 판단을 내리기 시작하면, 나는 사람을 루프 안에 두고 싶음.

OSIO가 바로 이 문제를 해결하기 위해 만들어지고 있음.

전체 업무 기능을 하나의 자율 에이전트에게 맡기고 잘 되길 바라는 게 아님. AI에게 실제 업무에 대한 제한된 책임을 부여하고, 업무가 계속 진행되게 하되, 판단이나 승인, 혹은 특이 사항이 발생하면 사람을 다시 개입시키는 것임.

예를 들어, 재무 업무는 송장 읽기, 기록 대조, 지급 준비부터 시작하고 사람이 자금 이동을 승인하는 식임. 영업은 일상적인 리드 후속 조치를 자동으로 하되, 가격 책정이나 특이한 고객 상황은 사람에게 넘기는 것임.

이게 바로 OSIO(지능형 조직을 위한 운영 체제)의 모델임: 안전하고 유용한 책임부터 시작해서, 시스템이 검증됨에 따라 범위를 넓혀가는 것.

osio.app

응, "완전한" 업무의 정의를 좁게 잡는다면 가능함. 몇 달 동안 인바운드 리드 분류와 후속 조치를 에이전트로 돌려봤는데 패턴은 항상 똑같음: 에이전트는 업무 자체는 잘하지만, 그 업무가 더 이상 적용되지 않는 상황을 알아차리는 건 못함. 실패는 항상 업무 자체가 아니라 가장자리(edge)에서 발생함. 스레드가 적대적으로 변하거나, 규칙이 바뀌거나, 카운터가 조용히 초기화되는 식이지. 그래서 사람은 여전히 매일 로그를 읽어야 함. "일주일 동안 회사를 운영하게 했다"는 식의 실패 사례들은 에이전트가 일을 못 해서가 아니라, 아무도 그 로그를 읽는 단계를 만들지 않았기 때문에 실패한 거임.

할루시네이션(hallucination) 문제는 LLM이 작동하는 방식에 내재된 기능이라, 그런 실수를 잡아내려면 루프 안에 사람이 있어야 함.

내가 돕고 있는 작은 이커머스 샵의 기본적인 고객 문의를 처리하려고 AI 에이전트를 설정했는데, 주문 상태나 반품 정책 같은 일상적인 업무에는 놀라울 정도로 잘 작동함. 핵심은 아주 좁은 범위에서 시작해서 며칠이 아니라 몇 주 동안 신뢰성이 검증된 후에야 확장하는 거였음. 회사를 통째로 운영할 준비는 절대 안 됐지만, 잘 정의된 하나의 기능으로서는 시간을 절약해 주는 도구가 됐음.

완전 자동화된 기능을 사용하는 SMB 고객들이 몇 군데 있음: 하나는 OpenClaw 크론으로 인바운드 리드 자격 확인을 끝까지 처리하고, 다른 하나는 모든 지원 분류를 처리함. "회사를 망쳤다"는 식의 이야기는 보통 에이전트가 멍청해서가 아니라 누군가 가드레일을 건너뛰었기 때문에 실패하는 거임. 좁고 위험도가 낮은 기능과 사람의 에스컬레이션 경로를 가지고 시작하면, 운영하는 게 꽤 지루해질 정도로 안정적임. 전체 비즈니스를 완전히 자율화하는 건 아직 무리지만, 단일 기능은 오늘날 충분히 가능함.