단순한 워크플로우로 충분한데 AI 에이전트를 과하게 사용하는 것 아닐까? 요즘 데모는 죄다 '멀티 에이전트'인 것 같음.

다들 하는 말이지만… 결정론적으로 값을 얻을 수 있다면 일반적인 워크플로우를 쓸 거야. 워크플로우로 얻을 수 없는 생성 작업이 필요할 때만 에이전트를 쓸 거고.

모든 것에 에이전트를 갖다 붙이는 건 지난 2년 동안 내가 본 가장 안타까운 현상 중 하나임 🤔

진짜 리트머스 시험지는 '에이전트냐 아니냐'가 아니라, 추론 비용을 정당화할 만큼 입력값에 모호함이 있느냐임. 대부분의 데모가 멀티 에이전트를 쓰는 건 문제가 필요해서가 아니라 스크린샷 찍었을 때 멋있어 보이기 때문이지.

마치 정적 HTML 페이지 하나 띄우려고 마이크로서비스 아키텍처를 도입하는 꼴임. 틀린 건 아니지만, 아무도 원치 않는 유연성을 위해 돈을 지불한 셈이지.

재시도 로직, 단계 순서, 실패 모드를 미리 정의하고 있다면 그건 에이전트가 아니라 워크플로우를 만들고 있는 거임…

모든 '멀티 에이전트' 데모를 보면 마이크로서비스 시대가 떠오름. 다들 모든 걸 분해해버렸고, 서비스 절반은 그냥 HTTP로 서로 호출만 해댔지. 어려운 건 아키텍처가 아니었음. 어떤 문제에 그게 필요한지 아는 게 어려운 거였지.

난 미리 결정하는 걸 그만뒀음. 모든 걸 그냥 일반 워크플로우로 시작하고, 예외 케이스 분기가 계속 튀어나오는 단계가 있으면 그때 에이전트로 승격시킴. 사실상 순서도가 어디에 추론이 필요한지 알려주는 셈이지.

근데 그건 어쩔 수 없는 흐름 아님?
인터넷도 똑같았잖아. 도서관들이 (거의?) 문을 닫았듯이 말이야. 기술의 변곡점은 피할 수 없는 건데, 그 기술의 파도를 어떻게 타느냐가 문제지. AI가 효율성 측면에서 좋긴 하지만, 우리가 이 기술을 어디에 어떻게 쓰는지 좀 의식할 필요는 있음. 결국 우리한테 달린 거임.
우리는 아마도 사각형이나 직사각형으로 가득 찬 세상을 원하는 건가, 아니면 최소한의... (말줄임) 형태를 원하는 건가?

나한테 기준이 되는 건 추론 복잡성이 아니라 범위임. 예측 가능한 분기가 있는 단일 앱 작업은 항상 워크플로우지. 에이전트가 제값을 할 때는 작업이 지메일, 캘린더, 슬랙, 리니어 등을 넘나들고 다음 단계가 이전 단계에서 발견한 내용에 따라 달라질 때임. 그리고 거기서 에이전트를 쓸만하게 만드는 건 자율성이 아니라, 이미 몇몇이 언급한 인간 승인 단계와 같은 본능인 '액션별 승인 게이트'임. AI로 작성함

모든 새롭고 흥미로운 기술이 그렇듯, 초기에는 사람들이 망치 하나 들고 모든 문제를 못으로 보려는 경향이 있지. 즉, 대부분의 앱은 지루하지만 확실한 결정론적 워크플로우에 비결정론적(에이전트 기반) 단계 몇 개만 섞으면 되는데, 무조건 에이전트부터 쓰려고 하는 거야.

상태 구조랑 결정 분기가 명확하다면 그냥 일반적인 워크플로우를 쓰라고! 에이전트는 주관적인 판단이 꼭 필요한 곳에만 쓰는 거지. 그리고 거버넌스도 추가하고...