Factory는 Vercel에서 가장 큰 규모의 api.* 클라우드 백엔드를 운영하며, 매달 10억 건의 요청을 처리하고 있습니다. 3년간의 백엔드 워크로드를 어떻게 확장해왔는지, 내부 도구를 자율적으로 배포하고 별도의 보안 팀 없이 사기를 차단한 과정을 소개합니다.
하루 10억 건의 백엔드 API 요청 처리
p95 응답 시간 350ms
전담 인프라 팀 없이 백엔드, 내부 툴링, 보안까지 확장
Factory의 미션은 신호(signal)부터 프로덕션까지, 소프트웨어 개발 생명주기의 모든 단계에 자율성을 부여하는 것입니다. 엔지니어의 판단을 대체하는 것이 아니라, 반복적인 작업을 자동화해 엔지니어가 가장 중요한 의사결정에 집중할 수 있게 하는 것이 목표입니다. 엔터프라이즈급 플랫폼을 구현하기 위해 Factory는 이 운영 모델을 내부에도 그대로 적용했습니다. Droids가 일상적인 워크로드를 처리하도록 해 조직을 린(lean)하고 민첩하게 유지하면서, 엔지니어들은 오로지 제품 개발에만 집중할 수 있게 했습니다.
Factory가 단순한 웹 앱에서 멀티 서피스(multi-surface) 플랫폼으로 성장하면서, 개인 개발자부터 수만 명의 엔지니어를 보유한 엔터프라이즈 고객까지 다양한 사용자를 지원하게 되었고, 백엔드도 이에 맞춰 함께 확장되었습니다. 오늘날 Vercel에서 운영되는 단 하나의 Next.js 백엔드가 모든 서피스를 지원하며, API 라우트, 미들웨어, 웹훅 핸들러 전반에 걸쳐 하루 10억 건의 요청을 처리합니다. 이 모든 것이 별도의 엔지니어링 프로젝트 없이 이루어지고 있습니다.
대부분의 팀은 Next.js를 프론트엔드 프레임워크로 생각합니다. Factory는 클라우드 백엔드 전체를 Next.js로 운영합니다:
API 라우트는 고객 대상 API를 처리하며, Factory의 Next.js 앱 내 별도 섹션으로 출시되었습니다
미들웨어는 모든 서피스에 걸쳐 인증 및 라우팅 로직을 관리합니다
웹훅 핸들러와 로그 드레인 파이프라인은 웹 플랫폼과 함께 실행되며, 다운스트림 분석 데이터를 공급합니다
Factory가 빠르게 성장하는 동안, 동일한 백엔드가 모든 새로운 워크로드를 흡수했습니다. 별도의 인프라를 구축하거나 새 벤더를 결정할 필요가 전혀 없었습니다. 튜닝이 필요했던 부분은 메모리 제한과 함수 실행 시간뿐이었으며, 둘 다 문제없이 확장되었습니다. Fluid compute는 요청 간 함수를 워밍 상태로 유지해, 레이턴시에 민감한 워크로드에서 기존 서버리스의 고질적인 문제였던 콜드 스타트 페널티를 제거합니다. 그 결과 p95 응답 시간이 350ms 이하를 유지하고 있습니다.
3년이 지난 지금, 통상적으로 따라오는 부담 없이 성장 궤적이 순조롭게 이어지고 있습니다.
어카운트 이그제큐티브가 내부 분석 대시보드가 필요하거나, 솔루션 아키텍트가 고객 프로토타입을 배포해야 할 때마다 요청은 엔지니어링 팀으로 향했습니다. 매번 발생하는 컨텍스트 전환은 제품을 만드는 팀이 치러야 할 비용이었고, Factory는 이 문제를 해결하기 위해 자사 제품을 Vercel에 직접 적용했습니다.
이제 Factory의 비기술 팀원들은 Factory Desktop App이나 CLI에서 자체 Droids를 활용해 필요한 것을 직접 만들고 Vercel에 바로 배포합니다. Droids는 Vercel을 프로그래밍 방식으로 활용해 설정, 빌드, 배포를 처음부터 끝까지 처리합니다. 엔지니어는 가드레일을 설정하고 중요한 의사결정을 검토하며, 나머지는 Droids가 담당합니다. 이 워크플로우를 통해 팀 전체에서 하루 수십 건의 배포가 이루어지고 있으며, 내부 툴 라이브러리도 꾸준히 늘어나고 있습니다:
Factory의 분석 데이터베이스 및 소프트웨어 툴에서 직접 데이터를 가져오는 내부 분석 대시보드
솔루션 엔지니어가 몇 분 만에 빌드하고 배포할 수 있는 고객 맞춤형 데모
일회성 내부 워크플로우를 위한 커스텀 유틸리티
Factory가 셀프서비스 회원가입을 열자 자동화된 트래픽으로 인한 공격이 뒤따랐습니다. 봇이 허위 계정을 생성하고, 불량 IP에서 요청이 쏟아졌습니다. 팀은 네트워크 레이어에서 빠르게 라우트 단위의 보호 체계를 갖춰야 했습니다.
Vercel Observability는 API에 유입되는 트래픽에 대한 가시성을 제공하여, 트래픽 패턴과 문제 IP를 실시간으로 파악할 수 있게 합니다. Web Application Firewall은 실질적인 차단을 담당합니다. 팀은 라우트 단위 규칙으로 불량 행위자를 차단하고, 속도 제한과 DDoS 방어가 그 아래에서 지속적으로 작동합니다.
Factory는 자체 Droids로 Factory를 만듭니다. 모든 내부 자동화는 자사 인프라에서 먼저 검증된 미래의 제품 기능입니다. 이 순환이 이제 전혀 다른 차원의 규모로 돌아가려 하고 있습니다.
Factory는 대규모 자율 소프트웨어 팩토리를 향한 선구적인 비전을 지속적으로 구현하고 확장하며 빠르게 성장하고 있습니다.
소개 Factory: Factory는 기업이 소프트웨어 팩토리를 구축하고 운영하는 데 사용하는 플랫폼입니다. 신호를 프로덕션 소프트웨어로 전환하는 과정을 전체 생명주기에 걸쳐 24시간 365일 지속적으로 수행하는 시스템으로, 특정 모델에 종속되지 않으며 클라우드부터 완전한 프라이빗 환경까지 어디서나 배포할 수 있습니다. 엔지니어는 거버넌스 레이어로서 통제권을 유지합니다. Factory는 2023년 Matan Grinberg와 Eno Reyes가 설립했으며, 샌프란시스코에 본사를 두고 있습니다.
