Okara는 Vercel AI Gateway와 Sandboxes를 기반으로 AI CMO를 구축했다. 이 시스템은 SEO, 콘텐츠, 소셜 미디어를 각각 담당하는 8개의 전문 에이전트를 조율하며, 12만 개 이상의 기업에 서비스를 제공한다. 놀라운 점은 이 모든 것을 단 4명의 팀이 운영한다는 것이다.
Vercel 멀티 프로바이더 AI 스택에서 하루 40억 토큰 처리
12만 개 이상의 기업 성장을 능동적으로 관리하는 AI CMO
SEO, GEO, 소셜, 콘텐츠, Reddit, Hacker News를 담당하는 8개의 서브 에이전트
출시 당일 바로 사용자에게 제공되는 새 AI 모델
Okara는 전문화된 서브 에이전트 팀을 조율해 마케팅을 이끄는 AI CMO다. 창업자가 직접 마케팅에 나설 필요가 없다. 웹사이트 URL만 입력하면, AI CMO가 마케팅 전략을 수립하고 브랜드 보이스를 개발하며 SEO, 콘텐츠, 소셜 미디어 전반에 걸쳐 에이전트를 가동한다. 마케팅 담당자를 한 명도 채용하지 않고도 인지도와 파이프라인을 만들어낼 수 있다.
Okara의 창업자 Fatima Rizwan은 이렇게 말한다. "주말 동안 뭔가를 만들어 놓고, 누군가 알아봐 주길 바라며 몇 달을 보낼 수도 있습니다." 그녀가 지적하는 유통 문제는 여전히 AI 이전 시대에 머물러 있다. 여러 구독 서비스와 에이전시에 분산되어 있고, 수익이 단 한 푼도 돌아오기 전에 월 1만 5천 달러 이상이 빠져나간다.
Okara는 4명의 팀이 구축하고 운영하며, 하루 40억 개의 토큰을 처리한다. 이 회사는 스타트업의 새로운 모델을 따른다. 소규모 팀이 수천 개 기업의 성장을 책임지는 플랫폼을 만드는 것이다. Fatima는 4명으로 수십만 개 기업에 서비스를 제공하려면 인프라가 완전히 투명해야 한다는 사실을 빠르게 깨달았다. 인프라에 쓰는 시간은 곧 제품 개발에 쓰지 못하는 시간이었다.
Okara의 백엔드는 원래 8개의 모델 프로바이더와 각각의 SDK를 통해 통신했다. 키 관리, 이미지 처리, 예외 케이스 대응이 모두 제각각이었다. 오픈소스 모델로 확장하면서 이 방식은 완전히 한계에 부딪혔다. 새 모델이 나올 때마다 엔지니어가 제품 개발을 멈추고 어댑터를 작성해야 했다. 재시도 로직, 폴백 라우팅, 프로바이더 상태 모니터링까지 모두 Okara의 코드베이스 안에서 수작업으로 유지됐다.
대부분의 AI 인프라라면 이 번거로움을 계속 감수해야 했을 것이다. 바로 이 때문에 Okara는 Vercel AI Gateway로 전환했다.
AI Gateway는 모든 커스텀 통합을 단일 설정으로 대체했다. 재시도 로직과 폴백 처리가 Okara의 코드베이스에서 완전히 빠져나와 Vercel의 라우팅 레이어로 이전됐다. 개인정보 보호가 중요한 Okara의 보안 채팅을 위한 제로 데이터 보존(zero-data retention) 지원도 포함됐다.
새 모델이 출시되는 당일, Okara 팀은 Gateway를 통해 즉시 사용자에게 제공할 수 있다. 어댑터도, 예외 케이스 테스트도, 별도의 배포 사이클도 필요 없다.
Okara의 SEO 에이전트는 문제를 스캔하고 이를 수정하는 코드까지 작성한다. 사용자의 사이트에서 기술적 문제가 발견되면, 에이전트는 Vercel Sandbox를 구동해 격리된 환경에서 분석을 실행한다. 분석 결과는 코딩 에이전트로 전달되고, 수정 사항이 담긴 풀 리퀘스트(pull request)가 자동으로 생성된다. 개발자는 이를 검토하고 머지하기만 하면 된다. 감지, 분석, 코드 수정까지 전체 루프가 자동으로 돌아가고, 실제 배포 전 최종 판단만 사람이 내린다.
Okara는 Vercel Sandboxes가 출시된 당일 바로 도입했다. Rizwan이 X에서 공지를 보고, 팀이 즉시 개발에 착수했다.
현재 12만 개의 웹사이트가 Okara의 AI CMO를 사용하고 있다. 팀은 하루에 6~7번 프로덕션 배포를 진행하며, 모든 개선 사항은 배포 당일 고객에게 바로 전달된다. Okara를 사용하는 1인 창업자는 인력을 늘리거나 월 1만 5천 달러의 에이전시 비용을 들이지 않고도, 10배 규모의 팀과 동등한 유통 역량을 갖출 수 있다.
Okara는 에이전트 제품군을 확장하고 더 큰 팀을 대상으로 시장을 넓혀가고 있다. 제품이 성장할수록 인프라 수요도 함께 늘어난다. 더 많은 사용자, 더 많은 에이전트, 더 많은 토큰. 4명이 12만 개 기업의 성장을 책임지는 상황에서 인프라가 발목을 잡아서는 안 된다. Vercel을 사용하면 그런 일은 없다.
소개 Okara: Okara는 창업자와 소규모 팀을 위해 SEO, 콘텐츠, 소셜 미디어를 전담하는 전문 서브 에이전트 팀을 조율하는 AI CMO다. 웹사이트에 연결해 브랜드 보이스를 개발하고, 마케팅 담당자 없이도 8개 채널의 유통을 관리한다.
