Tailscale은 Vercel AI Gateway 기반의 고객 대상 모델 라우터 Aperture를 구축했습니다. Aperture는 API 키 없이 신원 기반 접근 방식으로 수백 개의 AI 모델을 지원합니다.
수백 개의 AI 모델을 제품 내에서 고객에게 제공
tailnet 네트워크 신원을 기반으로 모델 접근 권한을 부여하고 회수
몇 달 만에 모델 라우팅 프로토타입에서 유료 고객 확보까지
Tailscale은 기업의 노트북, 서버, 클라우드 인스턴스, 개인 기기를 tailnet이라는 하나의 프라이빗 네트워크로 연결합니다. Aperture by Tailscale의 프로덕트 책임자 Remy Guercio는 이를 간단하게 설명합니다. "어떤 클라우드든, 온프레미스든, 집이든, 스마트폰이든 모두 아우르는 VPC라고 생각하면 됩니다."
Aperture는 이 개념을 AI에 그대로 적용합니다. 직원, 에이전트, 도구마다 별도의 프로바이더 API 키를 발급하는 대신, tailnet 자체를 통해 모델 접근을 제어합니다. 네트워크에 추가하면 바로 승인된 모델을 사용할 수 있고, 네트워크에서 제거하면 접근 권한도 함께 사라집니다.
내부적으로 Aperture는 Vercel AI Gateway와 Vercel Sandbox를 기반으로 구축되어 있습니다. AI Gateway는 수백 개의 모델에 단일 API로 접근할 수 있게 해주고, Sandbox는 에이전트가 안전하게 실행될 수 있는 환경을 제공합니다. 이 두 가지를 결합해 Tailscale은 고객의 프라이빗 네트워크 안에서 모델 접근과 에이전트 실행을 제공할 수 있습니다. AI 인프라를 처음부터 직접 구축할 필요가 없는 것이죠.
Tailscale은 인프라 기업이기 때문에 처음에는 라우팅과 실행 레이어를 자체 구축하는 방향을 당연히 고려했습니다. 하지만 실제로 필요한 엔지니어링 공수를 면밀히 검토한 후, 결국 그 방향을 포기했습니다.
프로바이더 레이어는 겉으로 보기엔 단순해 보였습니다. Remy는 이렇게 말합니다. "엔드포인트가 다 똑같을 것 같죠. 그렇지 않습니다."
David는 그 증거를 직접 갖고 있습니다. Aperture로 아직 마이그레이션하지 않은 일부 고객을 위해 Tailscale이 여전히 그 복잡한 구조를 직접 유지하고 있기 때문입니다. 그는 이렇게 말합니다. "주요 프로바이더들이 하지 않는 일들이 많은데, 게이트웨이는 그걸 다 해줍니다. 응답에 비용을 포함해서 돌려준다든가 하는 것들이죠. 처음엔 그런 시스템을 고객을 위해 직접 구축했는데, 복잡도가 정말 어마어마했습니다."
에이전트가 등장하면서 상황은 더 복잡해졌습니다. 비공개 데이터를 읽고, 그 내용을 바탕으로 행동하며, 공개 인터넷에도 접근할 수 있는 에이전트는 이제 '치명적인 3중 위협(lethal trifecta)'이라 불리는 보안 문제를 야기합니다. 이에 대한 적절한 대응책은 신원 확인과 접근 제어가 내재된 격리 샌드박스입니다. David는 이렇게 말합니다. "샌드박스까지 직접 구축하려 했다면 제품을 출시하지 못했을 겁니다. 하지만 Vercel 위에서는 프로토타입에서 유료 고객 확보까지 몇 달 만에 해낼 수 있었습니다."
Tailscale은 라우팅 레이어부터 비교 검토했습니다. Remy는 이렇게 말합니다. "프로바이더 포함해서 정말 많은 곳과 이야기해봤는데, Vercel이 가장 쉽게 만들어줬습니다." AI Gateway는 Aperture에 수백 개 모델에 대한 단일 API를 제공하고, 모든 요청마다 비용과 사용량을 반환합니다. 덕분에 Tailscale이 프로바이더별 가격 테이블을 직접 관리하지 않아도 고객에게 지출 현황을 바로 보여줄 수 있습니다.
Tailscale의 고객들은 데이터 보호에 민감합니다. 그래서 제로 데이터 보존(Zero Data Retention, ZDR)은 Aperture의 기본 요건이었습니다. Tailscale이 AI Gateway를 선택한 이유는 다음과 같습니다:
AI Gateway 자체가 데이터를 보존하지 않습니다.
ZDR을 전역으로 설정하거나 요청별 zeroDataRetention 플래그를 사용해 ZDR을 준수하는 프로바이더로만 라우팅을 자동으로 제한할 수 있습니다.
David는 이렇게 말합니다. "ZDR 관련 사항은 계속 변합니다. 어떤 모델이 제로 데이터 보존을 지원하고 어떤 모델이 그렇지 않은지도 마찬가지죠. 하지만 그 로직을 저희가 직접 작성할 필요가 없습니다. 모든 게 알아서 처리되니까요."
AI Gateway는 어떤 프로바이더나 모델에 대해서도 토큰 비용에 마진을 추가하지 않습니다. Tailscale의 고객이 직접 키를 가져오는 경우도 마찬가지입니다. Aperture의 고객은 카탈로그에 있는 모든 모델에 대해 직접 이용할 때와 동일한 요금을 냅니다.
Vercel이 Aperture에 어떤 가치를 주냐고 David에게 물으면, 그의 대답은 단순합니다. 바로 첫 토큰까지의 시간(time to first token)입니다. 하지만 David와 Remy가 이 말에서 떠올리는 의미는 서로 다릅니다. 그리고 둘 다 맞습니다.
Remy는 이렇게 말합니다. "[David] Carney는 첫 토큰까지의 시간이라는 용어를 즐겨 확장해서 씁니다. AI 인프라 세계에서 이 말은 캐시를 로드하고 응답을 생성해 사용자에게 전달하는 데 걸리는 시간이라는 매우 구체적인 의미를 갖습니다." Remy는 David의 정의를 이렇게 설명합니다. "그에게는 사용자가 가입한 시점부터 첫 번째 모델 호출을 하는 시점까지의 시간을 뜻합니다. 그게 바로 Aperture가 고객에게 제공하는 진짜 가치입니다."
Aperture의 성공은 바로 이 가치 실현 시간으로 측정됩니다. David는 이렇게 말합니다. "팀에게 항상 장벽을 최대한 없애서 사람들이 가능한 한 빨리 그 wow 순간에 도달하도록 하라고 강조합니다. 다양한 제품을 몇 달간 테스트한 끝에, 인프라 측면에서 Vercel이 답이었습니다. AI Gateway의 지연 시간이 매우 낮기 때문입니다."
모델 접근 환경이 갖춰지자 팀은 tailnet 내에서 에이전트를 안전하게 실행하는 데 집중했습니다. 워크플로우는 다음과 같습니다:
샌드박스가 시작되고 Aperture에 연결됩니다.
Aperture가 AI Gateway에 연결됩니다.
Tailscale이 신원을 검증합니다.
에이전트가 작업을 수행합니다.
샌드박스가 종료됩니다.
에이전트에게는 어떤 키도 발급되지 않습니다.
Tailscale은 샌드박스 레이어도 비교 검토했으며, 다른 프로바이더로 실제 구현까지 해놓은 상태에서 전환을 결정했습니다. Remy는 이렇게 말합니다. "저희는 샌드박스 보안 경계가 아니라 네트워크 신원에 집중하고 싶었는데, Vercel의 샌드박스는 완벽히 안전합니다."
Tailscale 내부의 AI 사용 방식도 대부분의 기업과 다를 바 없이 성장해왔습니다. 팀별로 하나씩 쌓여온 직접 프로바이더 계정과 클라우드 엔드포인트가 혼재한 구조였습니다. 내부적으로는 요청이 Aperture를 거쳤지만, 프록시 뒤에서는 여전히 각 프로바이더를 직접 호출하는 방식이었습니다. 고객을 위해 AI Gateway를 도입한 후, 자신들도 마이그레이션을 해야겠다는 확신이 생겼습니다.
Tailscale 엔지니어링 팀은 Aperture에 스위치를 만들어 개별 프로바이더 API 대신 AI Gateway로 요청을 보내도록 전환했습니다. 이제 프로바이더별 개별 연동 대신 단일 연동으로 통합됐습니다. 직원들에게는 아무것도 바뀐 게 없었습니다. Aperture는 여전히 동일한 엔드포인트였고, 기존에 사용하던 모델이 모두 AI Gateway 카탈로그에 있었기 때문에 전환은 중단 없이 이뤄졌습니다. Tailscale은 이제 자사의 마이그레이션 경험을 수십 개의 프로바이더 계정과 키를 관리하는 기업 고객을 위한 플레이북으로 활용하고 있습니다.
Aperture는 처음에 엔지니어들이 코딩 에이전트를 연결하는 단순한 게이트웨이로 시작했습니다. 지금은 채팅 UI, MCP 커넥터, 임시 노드로 실행 가능한 샌드박스를 갖추고 있으며, 모두 tailnet 신원 위에서 동작합니다.
Aperture의 새로운 목표는 첫 번째 앱까지의 시간입니다. David는 사용자가 가입하고, 프롬프트를 실행하고, 앱을 만들고, 공유하는 전 과정이 10분 이내에 이뤄지길 바랍니다.
Remy는 이렇게 말합니다. "그게 정확히 어떤 모습이 될지는 아직 모릅니다. 하지만 빠르게 반복해야 한다는 건 알고 있습니다. 그런 과정에서 함께 손발을 맞출 수 있는 파트너가 있다는 건 정말 중요합니다."
다른 기업들에게 David가 하는 조언은, 운영에 필요한 인프라가 아니라 고객에게 전달하는 제품에 집중하라는 것입니다. 그는 이렇게 말합니다. "자체 라우터를 만들고 싶어 하는 곳이 많습니다. 저희도 그랬으니까요. 하지만 라우터를 또 만들 필요는 없습니다."
소개 Tailscale: Tailscale은 기업의 사용자, 기기, 서버, 클라우드 인프라, 서비스를 신원 기반 프라이빗 네트워크로 연결하는 보안 연결 플랫폼입니다. 모델 라우터 Aperture by Tailscale은 이 네트워크를 AI 모델과 에이전트까지 확장합니다.
