Block의 AI Capabilities 총괄 브래들리 액슨이 최첨단 지능을 책임감 있게 도입하려면 안전장치가 왜 핵심인지 설명합니다.
Block은 판매자를 위한 Square와 소비자를 위한 Cash App 등, 기업과 개인이 경제활동에 참여하도록 돕는 도구를 만듭니다. 브래들리 액슨은 Block에서 AI capabilities를 이끌고 있습니다. 그의 팀은 사람과 에이전트가 함께 일하는 팀을 위한 오픈소스 워크스페이스 Buzz를 비롯해 AI 제품을 처음부터 끝까지 만들고, Square·Cash App 팀과 협력해 고객이 직접 쓰는 AI 기능도 개발합니다. 브래들리는 Anthropic과 이야기를 나누며 Claude Opus 5와 Claude Fable 5 같은 최첨단 모델이 엔지니어의 역할을 어떻게 바꿔 놓았는지, Block이 Fable로 에이전트 오케스트레이션 패턴을 어떻게 적용하는지, 모든 직원이 최첨단 모델을 쓸 수 있는 환경에서 안전장치가 맡는 역할은 무엇인지 들려주었습니다.
Block에서 AI가 가장 크게 바꾼 것은 무언가를 만드는 방식이고, 그 영향은 아무리 강조해도 지나치지 않습니다. 시작은 2025년 Claude Code 같은 도구였는데, 당시에는 사람의 수작업 개입이 훨씬 많이 필요했습니다. 모델이 더 똑똑해지면서 설계와 엔지니어링 업무의 무게중심은 마이그레이션 자체를 설계하고, 에이전트의 동작을 검토하고, 고객이 직접 쓰는 기능을 더 많이 만드는 쪽으로 옮겨 갔습니다. 원래 우리가 늘 바라던 방향이기도 합니다.
다음 단계는 이런 혁신적인 기술을 Block의 제품을 통해 고객에게 전하는 것입니다. 소규모 업체가 시간을 쓰고 싶지 않은 백오피스 업무를 처리하도록 돕거나, Cash App 고객이 자산을 관리하도록 돕는 데에도 AI는 똑같이 큰 가치를 줄 수 있습니다. Claude 덕분에 소프트웨어에 거는 기대 자체를 바꿀 수 있는 새로운 수단이 생겼습니다. AI가 고객의 필요에 맞춰 그 자리에서 새 인터페이스를 만들어 낸다면 어떨까요? 앞으로 우리 제품은 특정 문제를 풀기 위해 AI로 그때그때 만들어지는 방향으로 갈 것이라고 생각합니다.
Claude의 최신 모델에서 가장 크게 달라진 점은 소프트웨어를 만들 수 있는 규모입니다. 코드를 작성하는 일이 핵심이라는 점은 그대로지만, 이제는 AI로 전사 차원의 마이그레이션을 진행합니다. 오래전부터 모두가 꿈꿔 왔지만 2025년에는 좀처럼 성공하지 못했습니다. Claude Fable 5 이전에는 최첨단 모델이 제 실력을 발휘하려면 문제의 모양이 특별히 잘 잡혀 있어야 했습니다.
2026년 현재 AI는 모든 대규모 코드 마이그레이션의 핵심 축입니다. 우리에게 마이그레이션이란 여러 저장소, 수백만 줄의 코드에 걸친 수백, 수천 건의 개별 풀 리퀘스트를 뜻하기도 합니다. 예전에는 사람이 이 작업을 조율해야 했고, 모델은 한 번에 PR 한두 건 정도만 맡을 수 있었습니다. 이제 Fable은 여러 세션에 걸친 작업을 직접 조율합니다. 사람 엔지니어가 방향을 잡아 주면, Fable은 데이터 모델, API 명세, 알고리즘 같은 상위 수준의 설계에 집중합니다. 그런 다음 Opus나 Sonnet처럼 비용 효율이 높은 소형 모델을 최대 수십 개까지 지휘해 실제 파일 수정, 테스트 실행 같은 개별 작업을 맡깁니다.
경제성도 잘 맞습니다. 초기 결과를 보면 오케스트레이터는 복잡한 초기 계획 단계에서만 최첨단 토큰을 쓰고, 이후 대부분의 토큰은 소형 워커 모델이 소비하는데도 품질은 떨어지지 않았습니다. 이 모든 구성은 Buzz에서 돌아갑니다. Buzz는 사람과 AI 에이전트가 공유 채널과 스레드에서 나란히 일하는 오픈소스 협업 워크스페이스로, 팀의 진행 상황을 한눈에 파악하기 좋습니다.
마이그레이션 하나에서 Fable이 조율한 풀 리퀘스트를 1,000건씩 머지하기도 합니다. 덕분에 엔지니어는 기계적인 작업 대신 어려운 설계 결정에 집중할 수 있습니다.
그 뒤로 많은 모델이 격차를 좁혔고 Opus도 아주 훌륭하지만, Fable이 나온 순간 한 번에 다룰 수 있는 문제의 크기가 크게 달라졌습니다. Block의 팀들도 이 점에 끌려, 한 단계 더 높은 추상화와 규모로 올라선다는 것이 무슨 의미인지 탐색하기 시작했습니다.
요즘은 모델 효율성이 대화의 큰 부분을 차지합니다. 여기서 모델 오케스트레이션이 등장합니다. Fable의 최첨단 지능은 큰 문제를 풀 때 가장 가치가 크고, 코드 변경의 세부 사항은 소형 모델에 맡깁니다. LLM으로 코드를 짜기 시작한 이래 제가 기억하는 한, 정답이 "항상 가장 앞선 모델을 쓰는 것"이 아니었던 건 이번이 처음입니다.
모델 오케스트레이션은 지금 우리가 일하는 방식의 큰 축이고, 그래서 새로운 도구가 필요합니다. 일부 도구는 대화 하나에 초점이 맞춰져 있어서, 에이전트 45개가 늘 함께 일하는 상황을 인터페이스가 따라가지 못합니다. 이 지점에서도 Buzz가 쓰입니다. Buzz에는 멀티 에이전트 워크플로가 있고, 우리는 여러 사람이 다수의 에이전트와 대화하며 일하는 모습이 미래라고 믿습니다. 조직은 반복적인 작업에는 효율적인 모델을, 더 큰 문제에는 최첨단 모델을 골라 쓰게 될 것입니다.
첫 번째는 대규모 마이그레이션입니다. PR이 수천 건에 달하는 마이그레이션에서, 작업을 수행하는 시스템 전체를 Fable이 조율했습니다.
두 번째는 100만 줄 안팎의 대형 코드베이스에서 기술 부채가 날마다 쌓이지 않도록 관리하는 일입니다. 우리는 그 어느 때보다 많은 PR을 내놓고 있습니다. 기능도, 변경 사항도 훨씬 많이 배포하니 시스템에 기술 부채가 쌓이는 속도도 전에 없이 빨라졌는데, 이를 유지·관리하는 속도를 끌어올려 줄 수단은 그동안 없었습니다. 그것이 마침내 가능해지고 있습니다. 이제는 코드베이스 전체를 매일 또는 매주 훑으면서 "여기 상태는 어떤가? 무엇을 정리하고 통합해야 하나?"를 묻는 에이전트가 있습니다.
기술 직군이라면 누구에게나 가장 앞선 모델을 제한 없이 열어 둡니다. 우리 전략의 큰 부분이 늘 가능성의 최전선에서 일하는 것이기 때문입니다.
README의 오타 하나 고치자고 Fable을 쓰는 건 자원 낭비입니다. 그래서 작업마다 어떤 모델을 쓸지 제안해 주는 더 나은 시스템이 필요했습니다. 이를 위해 직원이 언제 어떤 모델을 쓸지 고르도록 돕는 자동 선택기를 만들고 있습니다. 규모가 큰 최첨단 모델과 작은 모델을 섞어 구동하는 멀티 에이전트 시스템도 도움이 됩니다.
회사 차원의 중요한 목표는 기본적으로 효율적으로 운영하는 것이고, 지금 우리가 기르고 있는 역량이 바로 그것입니다. 선택할 수 있는 훌륭한 모델은 많습니다. 모두가 작업에 맞는 모델을 잘 고르게 되면 속도를 늦추지 않고도 비용 효율이 훨씬 좋아집니다.
하루 종일 LLM을 다루는 저조차도, xhigh effort의 모델은 같은 모델의 medium과 다른 모델처럼 느껴집니다. effort 수준을 따라 걸어가는 하나의 스펙트럼이라고 생각하지 않습니다. low로 쓴 Fable이 xhigh로 쓴 다른 모델보다 나을 수도 있으니까요. 그래서 더 큰 격자를 놓고 최적화해야 한다고 봅니다. 사용 사례마다 벤치마크할 때 모든 모델은 물론, 모델별 모든 effort 수준까지 확인합니다.
AI 활용 방식을 중앙에서 담당하는 입장에서는 "이런 유형의 작업에는 이 모델을 high로 기본 사용하세요"처럼 아주 명확한 권장안을 원합니다. 도구가 가능한 한 이를 자동으로 적용하게 만들고, 전문가는 원할 때 자유롭게 탐색하도록 해야 합니다.
너무 중요해서 반드시 보장이 필요한 일이 있고, 우리는 아직 LLM을 코드베이스에 풀어놓을 준비가 되어 있지 않습니다. main으로의 머지와 프로덕션 배포, 그리고 feature flag 같은 관련 변경은 항상 사람이 맡습니다. 에이전트가 코드를 수정할 수는 있지만, 그 변경은 보안 점검을 통과해야 하고 두 사람이 배포를 승인해야 합니다. 이 이중 승인 단계 덕분에 LLM이 이런 변경을 스스로 밀어 넣는 것은 불가능합니다.
더 낮은 수준에서 보면, 직원이 주의를 기울이지 않을 때 노트북에서 할 수 있는 일이 놀랄 만큼 많습니다. 사람이라면 당연히 하지 않을 거라고 가정하는 일들이죠. 이런 점이 우리를 흥미로운 방향으로 이끌었습니다. 저는 앞으로 일하는 방식의 상당 부분이 원격 워크스테이션이 될 것이라고 생각합니다. 보안을 지키기 쉽고, LLM이 일으키는 다른 문제(디스크 공간을 가득 채우는 것 등)도 줄여 주기 때문입니다. 보안 전략의 큰 축은 기본적으로 안전한 시스템을 만드는 것입니다. 차단 목록 대신 허용 목록으로 네트워크를 관리하는 식으로 최악의 문제를 막습니다.
또한 가능한 한 많은 부분을 모델이 관여하지 않는 구조로 만들려 합니다. 보안 가드레일 상당수는 모델 없이 돌아가는 아주 가볍고 효율적인 점검입니다. 이런 점검을 사람들이 일할 때 쓰는 인터페이스에 내장합니다. 때로는 정규식일 때도 있고, 최근에는 소형 분류기도 점점 한몫하고 있습니다.
일상 업무에서는 생산성을 위해 허용해야 하고 막을 가치가 없는 영역도 많습니다. 우리는 사람들이 더 빨리 움직이도록 모델이 PR을 열고, 코드를 리뷰하고, 로깅 시스템과 분석 데이터베이스를 조회하게 일부러 허용합니다.
이때 모델에 내장된 안전장치가 정말 중요합니다. Fable을 비롯한 최첨단 모델이 위험한 활동에 가담하지 않도록 조정된 방식, 그리고 Anthropic의 자체 안전 분류기를 말합니다. 테스트해 보면 누군가 Claude에게 이중 승인 시스템을 "해킹해서 우회하라"고 요청해도 시도 자체를 거부합니다. 이 부분도 벤치마크로 확인하고 있습니다.
AI를 쓰며 그 가능성의 한계를 넓혀 가는 사람이 우리 회사에 수천 명 있습니다. 이들은 개인 차원에서 무엇이 통하는지 익히고, 자기 주변의 시스템을 개선합니다. 저만 해도 노트북에 로컬 스킬이 여러 개 있어서, 전문 프런트엔드 개발자가 아닌데도 Square 웹 프런트엔드 작업을 할 수 있습니다. 조직이 성숙해진다는 것은 이런 맥락과 조직의 지식을 개인이 아니라 시스템 차원에서 기억하게 되는 것입니다.
우리의 목표는 일하는 사람들에게서 배우는 모든 것을 문서화해 모두가 혜택을 누리는 시스템에 담는 것입니다. 그러면 에이전트를 실행할 때마다 업무에 쓸 수 있는 최고의 맥락을 갖추고 있다고 확신할 수 있습니다.
지금 바로 Claude Fable 5.1을 시작해 보세요.
