오늘날 실제 운영 환경에서 자율 AI 에이전트는 실제로 무엇을 하고 있을까?

내가 현장에서 본 대부분은 여전히 좁은 범위의 일들이야. 예를 들면 지원 티켓을 분류하거나, 사람이 보기 전에 문서를 긁어와 요약하는 정도지. '에이전트가 결정을 내리고 버튼을 누르는' 부분은 매우 낮은 위험도의 루프를 제외하면 드물어. 돈이나 고객의 신뢰가 걸려 있으면 롤백이 악몽이 되거든.

YC의 물결은 진짜지만, 그 회사들 절반은 그냥 LLM을 감싼 래퍼에 멋진 대시보드만 달아놓은 거지, 실제로 핵심 운영을 돌리는 게 아니야. 자율적인 부분은 보통 고객에게 나쁜 이메일을 보내는 순간 바로 끝장나지.

수직적/도메인/니치 특화 기업들은 거품이 아니야. 그들은 완전히 AI 네이티브이고, 자기 분야에서 AI를 활용하는 게 목표지. 하지만 그들은 실제 기업들과 진짜 관계를 구축하는데, 이건 AI가 어디로 가든 상관없이 지속될 비AI적 업무가 엄청나게 많다는 뜻이야. 모든 정황을 볼 때, 큰 회사들은 일감을 거절하고 있을 정도야. 그건 진짜지.

'래퍼' AI 놈들은 이제 끝났어. 순수하게 AI만 파는 건 지금 완전히 모래 늪이야. 그들이 생각하는 가치가 무엇이든, 사실상 새로운 모델이나 더 발전된 스킬 엔진이 나오면 바로 도태될 운명이거든.

'AI 거버넌스' 쪽으로 움직임이 있어. 진짜 규칙과 감사 가능성을 갖춘 AI를 만드는 거지. 이건 진지하거나 규제가 심한 산업에는 필수적이야. 그런 거 없이는 산업 현장에서 AI를 쓸 수가 없거든. 첫 번째 문단에서 말한 게 바로 그런 걸 제공하는 거야.

미래를 설계한다고? 예측의 어려움을 인지하는 건 현명한 거야. AI는 모든 것에 영향을 주겠지. 하지만 벽돌과 모르타르(오프라인), 무역, 농업 같은 것들은 분명히 그렇지 않을 거야. 하지만 그 둘의 교차점이 바로 네가 있어야 할 곳이야.

큰 회사들이 일감을 거절한다는 게 무슨 뜻이야?
어쨌든 네가 말한 것 대부분에 동의해.
나는 AI 네이티브 아키텍처를 가진 제품이 어떻게 전통적인 제품들을 이기고 있는지 궁금했어. 화려한 데모와 펀딩 라운드 말고는 별로 본 게 없거든. 6개월 전에는 네 도메인에 맞는 Cursor를 만드는 것에 대해 난리였는데, 이제는 지루한 분야를 위한 AI로 넘어갔더라고.
코딩 에이전트를 제외하면, 기술은 존재하는데도 지난 2년 동안 진정한 돌파구는 없었어.

맞아, 돌파구는 없지. 지금 에이전트 프로그래밍 쪽은 성숙도가 많이 올라왔어. Claude를 써서 워크플로우를 짜고, 코드를 작성하는 여러 에이전트를 관리하고 검토하는 식이지. 실리콘밸리의 새로운 채용 공고들에서는 그게 최소한의 요구 사항처럼 보이더라고. 내가 노리는 곳도 거기야.

'AI 네이티브'라는 용어는 너무 빨리 변해서 적절하지 않을 수도 있어. 하지만 특정 분야를 위한 AI를 하는 건 핫해. 올해 샌프란시스코 스타트업들은 다 그걸 하고 있거든. 도시는 그걸로 썩어 넘쳐. 그리고 그들은 AI를 위해 많은 돈을 지불하고 직원을 해고할 준비가 된 고객들을 줄 세워 놓고 있지.

일감을 거절한다는 거: 어제 면접을 여러 번 봤거든. Anthropic에 몇 달 전 인수된 Ode(컨설팅/딜리버리 회사)는 6개월치 일감이 밀려있어. 5천만 달러 규모의 사업에 전년 대비 400% 성장했다는 소리를 들었지. 비슷한 다른 회사들도 몇 군데 있는데, 닷컴 시절 같았어. 샌프란시스코 기반의 다른 회사들도 의료, 법률 쪽을 노리고 있는데, 다들 번쩍번쩍하고 가치는 수억 달러에 달하며 감당할 수 없을 만큼 일이 많아. 직원들 대부분은 들어온 지 몇 달도 안 됐고. 완전 혼돈일 거야.

금융 쪽에서는 대부분 '하드 게이트'가 있는 보조 역할이야. 에이전트가 주문 초안을 작성하면, 규칙이나 사람이 그걸 실행할지 결정하지. 완전 자율은 주로 가짜 돈으로 하는 걸 봤는데, 거기선 실수해도 로그 한 줄 남는 게 전부니까. 나는 그런 용도로 Quantradin을 만들었어. 가짜 돈으로 주식 계좌를 운영하면서 에이전트가 거래하고, 새로운 포지션은 네가 직접 키를 입력해야 실행되는 방식이지. quantradin.com이야. 네가 설계하는 건 단일 에이전트야, 아니면 함대(fleet) 같은 거야?