이제는 모델 선택보다 워크플로우 설계가 더 중요한 시대가 온 것 같다.
I think we're entering an era where workflow design matters more than model choice.
핵심 요약
AI 모델 자체의 성능보다 이를 활용하는 워크플로우 설계와 프로세스 구축이 실질적인 성과를 결정짓는 핵심 요소가 되고 있습니다.
- 워크플로우의 중요성 — 모델 성능보다 입력/출력 설계와 피드백 루프가 성과를 좌우함
- AI의 상품화 — 모델이 범용화되면서 이를 어떻게 구조화하느냐가 경쟁력이 됨
- 실무적 관점 — 모델을 마법의 상자로 보지 않고 비즈니스 문제에 맞게 설계해야 함
1년 전만 해도 나는 모델 비교에 정말 부끄러울 정도로 많은 시간을 썼다.
GPT 대 Claude.
Claude 대 Gemini.
Gemini 대 오픈소스.
컨텍스트 윈도우, 벤치마크, 추론 점수, 지연 시간 비교까지. 나는 모델 선택이 전체 스택에서 가장 중요한 결정인 것처럼 다뤘다.
최근 들어 나는 내가 거꾸로 생각했다는 걸 깨닫기 시작했다.
나는 "최고"라고 여겨지지 않는 모델로도 놀라운 결과를 내는 팀들을 봤고, 반대로 최첨단 시스템을 쓰고도 고전하는 팀들도 봤다. 그 차이는 지능에서 오는 경우가 거의 없다. 보통은 모델을 중심으로 일을 어떻게 구조화하느냐에 달려 있다.
내가 본 최고의 구현 사례들은 명확한 입력과 출력, 정의된 검토 단계, 그리고 촘촘한 피드백 루프를 갖추고 있었다. 반면 최악의 구현 사례들은 모델을 비즈니스 문제를 스스로 해결해 줄 마법의 블랙박스처럼 취급하는 경향이 있었다.
AI가 상품화될수록 프로세스 설계는 더욱 가치 있어 보인다. 두 회사가 똑같은 모델을 사용하더라도 그 주변에 더 나은 워크플로우를 설계한 쪽이 완전히 다른 결과를 낸다.
프로덕션 AI 시스템을 구축하는 사람들이 같은 점을 느끼고 있는지, 아니면 여전히 모델 선택이 가장 중요한 요소라고 생각하는지 궁금하다.
