엔터프라이즈 AI agent 구축 전략: L'Oreal, Lyft, Rakuten의 실전 사례

AI 도입과 AI 전환은 다르다

2025년 기준 미국 직장인의 40%가 업무에 AI를 사용한다고 보고했다. 2023년의 20%에서 두 배 늘었다. 숫자만 보면 인상적이지만, 실질적인 질문은 따로 있다. 이 도입이 조직이 일하는 방식 자체를 바꾸고 있는가?

여기서 "agentic thinking divide"가 갈린다. 한쪽에는 AI를 chatbot으로 쓰는 조직이 있다. 질문하면 답하고, 그걸로 끝이다. 다른 한쪽에는 AI를 복잡한 multi-step 작업을 스스로 계획하고 실행하는 agent로 운용하는 조직이 있다. 법무팀의 계약 검토, 마케팅팀의 캠페인 브리핑, 영업팀의 콜 준비 자료—이 모든 것이 AI가 도메인 전문성을 갖고 실제로 처리하는 작업이 된다.

AI 전환에 성공한 조직들은 세 가지를 동시에 재설계한다.

• 직원들이 일하는 방식: AI가 반복적이고 정보 집약적인 작업을 흡수하고, 직원은 판단이 필요한 전략적 작업에 집중한다
• 프로세스가 돌아가는 방식: 조직의 기관 지식을 AI에 인코딩해 전체가 혜택을 받는다
• 제품이 가능한 것들: 고객이 이전에는 할 수 없었던 것을 할 수 있게 된다

AI를 기존 워크플로우에 얹기만 하면 채택(adoption)이고, 조직이 작동하는 방식 자체를 바꾸면 전환(transformation)이다. 이 차이가 분기점이 된다.

직원 역량 강화: 전문성이 사라지는 게 아니라 더 멀리 간다

소프트웨어 엔지니어와 금융 애널리스트가 먼저 AI의 생산성 이득을 경험했다. 이제 그 이득은 모든 지식 노동자에게 열려 있다. 핵심은 AI가 반복적이고 시간이 오래 걸리는 작업을 가져가면, 직원은 자신의 판단력과 전문성이 진짜로 필요한 일에 집중할 수 있다는 것이다.

재무 애널리스트는 세 개의 시스템에서 데이터를 끌어오는 데 몇 시간을 쓰는 대신 그 데이터가 무엇을 의미하는지 해석하는 데 집중한다. 마케터는 매 분기마다 경쟁사 분석을 처음부터 다시 만드는 대신 그 분석 뒤의 전략을 다듬는다. 전문성이 없어지는 게 아니라 더 멀리 도달하게 되는 것이다.

여기서 결정적인 포인트가 있다. 범용 AI는 범용 결과물을 낸다. 같은 모델을 써도 조직이 얼마나 많은 맥락을 AI에 넣느냐에 따라 결과물의 품질은 극적으로 달라진다. 영업 방법론, 컴플라이언스 요구사항, 브랜드 보이스, 보고 기준을 Claude에 가르친 조직은 숙련된 동료가 쓴 것 같은 결과물을 받는다. 아무것도 안 가르친 조직은 직원이 다시 편집하고 채워야 하는 초안을 받는다.

L'Oreal 사례: 150개국에서 제품을 파는 L'Oreal은 내부 데이터 파이프라인이 제품만큼이나 분산되어 있었다. 데이터 인사이트가 필요한 직원은 매번 커스텀 대시보드를 요청해야 했고, 전문가가 쿼리를 만들어줄 때까지 기다려야 했다. 이 병목을 해소하기 위해 자연어 질문을 데이터 인사이트와 시각화로 변환하는 Claude 기반 multi-agent 플랫폼을 구축했다. 결과는 월 4만 4천 명 사용자, 하루 1만 5천 명의 활성 사용자, 그리고 이전 생성형 AI의 90% 정확도에서 99.9%로의 도약이었다. 기술적 배경이 없는 팀원도 직접 데이터를 조회할 수 있게 됐다.

프로세스 가속화: 정확도는 시간이 지날수록 복리로 쌓인다

AI가 프로세스를 자동화할 때 가장 많이 나오는 반론은 속도보다 품질이다. "빠른데 틀리면 의미 없지 않냐"는 것이다. AI 증강 프로세스를 가장 극적으로 개선한 조직들은 이 문제를 정면으로 해결한다. 그 방법은 인간 전문성이 AI의 지식 베이스로 피드백되는 시스템을 만드는 것이다.

실무 전문가가 정보를 검토하고 개선할수록 agent는 도메인 지식을 축적한다. 모든 전문가의 검토가 이후의 모든 프로세스를 더 빠르고 정확하게 만든다. 일찍 시작한 조직일수록 더 큰 이점을 쌓는다. 매달 누적되는 전문가 승인, 피드백, 개선이 다음 달의 결과물을 향상시키기 때문이다.

성공의 징표는 일하는 사람들의 언어가 바뀌는 것이다. 임상 연구 보고서를 몇 주에 걸쳐 조립하던 작가가 이제 초안 작성이 아닌 전문가 검토와 정제에 대부분의 시간을 쓴다고 말할 때, 규제 파일링을 만드는 데 며칠이 걸리던 컴플라이언스 담당자가 이제 몇 분 만에 초안을 생성하고 인간의 판단이 필요한 부분에만 집중한다고 말할 때, 프로세스 가속화가 작동하고 있는 것이다.

Lyft 사례: 6개 대륙에서 운영하는 Lyft의 고객 지원은 위기였다. 라이더와 드라이버는 상담원에 연결되기까지 30~40분을 기다렸고, 상담원들은 동시에 3~4명의 고객을 처리했다. 응답은 경직된 워크플로우와 복사-붙여넣기 답변으로 로봇 같았다. 상담원 번아웃은 심화되고 있었다. Lyft는 여러 AI 모델을 정량적 성능과 브랜드 보이스 정합성 모두로 테스트한 끝에 Claude를 선택했다. 드라이버 지원부터 시작해 라이더 지원으로 확장했다. Claude는 고객 이름으로 인사하고, 상황을 파악하고, 초 단위로 해결한다. 인간의 판단이 필요한 경우엔 AI가 생성한 대화 요약과 함께 상담원에게 라우팅된다. 결과: 고객 지원 해결 시간 87% 감소, 의사결정 정확도 30% 이상 향상. 절약한 비용은 Lyft Silver—노령 라이더를 위한 1:1 전용 지원 프로그램—같은 새로운 서비스에 재투자됐다.

제품 혁신: trust boundary가 무엇을 출시할 수 있는지를 결정한다

변혁적인 제품을 만드는 기업들은 공통 패턴을 공유한다. 프론티어 AI 모델에 독점 데이터, 기존 신뢰 관계, 깊은 도메인 전문성을 결합한다. AI는 실행자지만, 경쟁 우위는 그 주변의 모든 것에서 나온다. 데이터, 고객 관계, 도메인 지식이 제품을 방어 가능하게 만들고, AI는 그 가치를 이전에는 불가능했던 방식으로 전달하게 해준다.

여기서 흔히 간과되는 결정적 제약이 있다. trust boundary—조직의 신뢰 및 컴플라이언스 인프라 안에서 작동하는가의 문제다. 금융 서비스나 헬스케어 같은 규제 산업에서 데이터 보안과 규제 준수는 선택 기능이 아니라 전제조건이다. 클라이언트 데이터가 회사의 보안 경계를 벗어나야 하는 AI 제품은 몇 달의 컴플라이언스 검토 끝에 반려되는 제품이다. 기술적으로 우월해도 기존 신뢰 아키텍처 안에서 작동하지 못하면 배포되지 않는다.

trust 아키텍처를 먼저 해결한 조직은 제품 개발에서 빠르게 움직일 수 있다. 그걸 뒤로 미룬 조직은 가장 유망한 AI 제품이 컴플라이언스 검토에 무기한 묶여 있는 상황을 맞는다.

Rakuten 사례: 70개 이상의 비즈니스를 운영하는 Rakuten은 "AI-nization" 전략의 일환으로 agentic AI가 지속적인 컴퓨팅, 메모리, 스토리지가 필요하다는 것을 일찍 파악했다. 엔지니어들이 이 인프라를 직접 구축했는데, 당시로선 맞는 결정이었지만 차별화된 작업에 써야 할 상당한 인재가 인프라 유지에 소진됐다. Claude Managed Agents를 도입해 실행 레이어를 완전히 오프로드하자, 전문 agent를 일주일 이내에 배포하게 됐고, 분기별 한 번이던 주요 제품 릴리즈가 2주마다 가능해졌다. 초기 크리티컬 오류는 파일럿에서 97% 감소했고, agent 비용과 지연시간은 30% 이상 줄었다. Rakuten이 "Galileo"라고 부르는 파워 유저들은 이제 자신의 주요 역할을 훨씬 넘어서는 영역에 기여한다. 제품 매니저 한 명이 여러 퍼블릭 클라우드에 걸친 FinOps 파이프라인을 독자적으로 구축하고 ambient monitoring agent를 세팅하며 이전에는 불가능했던 속도로 제품을 감독한다.

조직 전체로 확산: plugin이 조직 지식을 인프라로 만든다

앞선 사례들의 공통점이 있다. 각 조직은 Claude가 의미 있는 작업을 하는 데 필요한 맥락을 주기 위해 커스텀 플랫폼을 구축했다. 그리고 그 투자는 상당한 엔지니어링 리소스와 시간이 필요했다.

Claude Cowork는 이 방정식을 바꾼다. 비기술직 직원도 코딩 지식이나 개발자 도구 없이 agent 기능에 접근할 수 있는 플랫폼이다. 직원은 목표를 설정하고, 작업을 위임하고, 완성된 결과물—Word 문서, Excel 모델, 슬라이드 덱, 분석 보고서—을 받는다.

이를 실용적으로 만드는 메커니즘이 plugin이다. Plugin은 skills, 맥락, 커넥터를 패키지화해 Claude에 역할별 전문성을 부여한다.

• 영업팀의 Claude는 회사 CRM, 파이프라인, 영업 프로세스를 안다
• 법무팀의 Claude는 계약 템플릿, 검토 워크플로우, 리스크 프레임워크를 안다
• 재무팀의 Claude는 계정과목표, 정산 절차, 보고 기준을 안다

Plugin은 한 번 구축하면 조직 전체가 공유한다. 한 팀의 best practice가 plugin에 인코딩되면, 설치하는 모든 사람에게 자동으로 확산된다. 가장 경험 많은 사람의 머릿속에만 있던 지식이 모든 신입, 모든 인접 팀, 모든 지사에서 사용 가능해진다. Anthropic은 productivity, sales, finance, data, legal, marketing, customer support, product management, enterprise search, biology research를 포함한 11개 plugin을 오픈소스로 공개했다.

엔터프라이즈 배포를 위한 4가지 원칙과 3단계 프레임워크

가장 효과적인 롤아웃을 이끄는 네 가지 원칙이 있다.

• 규모보다 구체성으로 시작한다: 처음부터 Claude에 조직의 기준, 도구, 기관 맥락을 주어야 한다. 첫 상호작용에서 범용 결과물을 받은 직원은 두 번 다시 시도하지 않는다
• 측정 가능한 목표가 있는 파일럿을 선택한다: "생산성 향상"처럼 모호한 목표는 모호한 결과를 낳는다. 영업팀이라면 콜 준비 시간 50% 단축, 법무팀이라면 계약 검토 턴어라운드 5일에서 1일로—수치로 정의해야 한다
• 처음부터 재사용을 위해 plugin을 구축한다: 한 팀을 위한 빠른 해결책을 만들고 재사용은 나중에 고민하려는 유혹을 뿌리쳐야 한다. Plugin을 공유하는 한계 비용은 0이고, 한계 가치는 거대하다
• 거버넌스 레이어를 절대 과소평가하지 않는다: admin 통제, 감사 가능성, 조직별 마켓플레이스는 채택이 무르익은 후 추가하는 기능이 아니라 광범위한 롤아웃의 전제조건이다. 거버넌스를 초기에 건너뛴 조직은 빠르게 움직여 절약한 시간보다 비승인 사용을 정리하는 데 더 많은 시간을 쓴다

구체적인 배포는 세 단계로 진행한다.

1. Phase 1 (초기 몇 주): 평가 기준 설정. 명확한 페인 포인트와 측정 가능한 워크플로우가 있는 2~3개 팀을 선정한다. 오픈소스 repository에서 관련 plugin을 설치하거나 팀의 기준과 프로세스를 인코딩한 커스텀 plugin을 구축한다. 누구도 도구를 사용하기 전에 성공의 기준을 정의한다.
2. Phase 2 (2~3개월): champion 파일럿 가동. 샌드박스 실험이 아닌 실제 프로덕션 워크플로우에서 2~3개 팀이 사용한다. 채택률을 매주 측정하고 정량적 지표와 함께 정성적 피드백도 수집한다. 직원이 예상치 못한 가치를 발견하는 순간이 시간 절약 계산보다 더 많은 것을 알려준다.
3. Phase 3 (4~6개월): 임팩트 확산. admin 마켓플레이스 통제를 배포하고, plugin 검토·승인 워크플로우를 구축하며, 파일럿에서 검증된 plugin과 설정으로 추가 팀에 롤아웃한다. 두 번째 물결의 채택은 첫 번째보다 빠르고, 세 번째는 더 빠르다.

선두를 잡는 것 자체가 복리 이점이 된다

AI 전환에서 조직들이 가장 많이 저지르는 실수는 전략이 완성될 때까지 첫 걸음을 미루는 것이다. 성공한 조직들은 좁게 시작하고, 빠르게 배우고, 확신을 갖고 확장한다. 고통이 명확하고 성공 기준이 뚜렷한 프로세스, 팀, 유스케이스 하나를 고른다. Claude에 실제 작업에 필요한 맥락을 주고, 결과를 정직하게 측정한다.

지금 AI를 핵심 운영에 통합하는 팀들은 복리 선발 이점을 갖는다. 훈련된 팀, 검증된 워크플로우, plugin에 인코딩된 기관 지식, 빠른 확장을 지원할 수 있는 거버넌스 인프라. 이것들이 이미 구축된 상태에서 시작하는 것과 처음부터 시작하는 것의 격차는 시간이 갈수록 커진다.

완벽한 계획은 필요 없다. 구체적인 출발점, 수량화 가능한 성공 기준, 그리고 다음에 일어나는 일로부터 배우겠다는 의지만 있으면 된다.