오케스트레이션 워크플로우 변경으로 Codex 사용 효율 3배 높인 방법
How I effectively got 3× more Codex usage by changing the orchestration workflow
핵심 요약
오케스트레이션 워크플로우를 개선하여 메인 에이전트의 컨텍스트 오버헤드를 줄이고 Codex 사용 효율을 3배 향상시킨 사례 공유.
- 워크플로우 재설계 — 메인 에이전트를 지식 분배자로, 서브 에이전트를 작업 수행자로 분리함.
- 컨텍스트 최적화 — 메인 에이전트의 불필요한 로그와 반복적인 컨텍스트 읽기를 제거함.
- 성능 벤치마크 — Sol 메인 에이전트의 캐시된 입력 토큰을 90% 이상 절감함.
- 작업 효율성 — 복잡한 작업도 서브 에이전트가 처리하여 메인 에이전트의 컨텍스트 점유율을 19%로 유지함.
codex_workflow 벤치마크 돌리면서 깨달은 건데, 긴 Codex 세션에서 비용 대부분을 차지하는 건 새로운 입력이나 출력이 아니었음. 메인 에이전트의 컨텍스트가 커질수록 캐시된 입력이 계속해서 반복 재생되는 게 문제였음.
codex_workflow는 내가 이전에 소개했던 Luna 서브 에이전트들을 위한 코디네이터임: https://www.reddit.com/r/codex/s/L64MLmijBW
단순히 Luna 서브 에이전트한테 구현을 떠넘기는 것만으로는 부족했음. 기존 워크플로우에서도 Luna가 실행 대부분을 처리하긴 했지만, Sol(메인 에이전트)이 여전히 자잘한 구현, 디버깅, 테스트, 배포, 복구 루프에 너무 많이 개입하고 있었거든. 메인 에이전트가 턴을 한 번 돌 때마다 캐시된 거대한 접두사를 계속 다시 읽어야 했으니까. 이건 내 워크플로우만의 문제가 아님. 일반적인 장기 실행 에이전트 워크플로우에서도 똑같이 발생하는 패턴임.
그래서 Heavy 경로를 완전히 다른 방식으로 재설계했음: 메인 에이전트는 지식 평면/배포자 역할을 하고, 작업자(worker)들이 운영 컨텍스트를 전담하는 구조임.
새로운 흐름은 대략 이래:
Explorer가 컨텍스트 수집 → Main이 아키텍처 결정 → Main이 가이드가 포함된 작업 캡슐(task capsules) 전송 → Luna가 로컬에서 실행/테스트/복구 → 핵심 지식 델타(차이점)만 Main으로 반환.
메인 에이전트는 여전히 지식 설계자로 남음. 폭넓은 이해도, 높은 지능, 프로젝트 전반에 걸친 추론이 진짜로 필요한 결정들만 처리하는 거지. 실행, 집중 테스트, 프로젝트 탐색, 문서 업데이트, 세션 종료 후 정리 같은 작업들은 컨텍스트 범위가 좁은 전문 Luna 서브 에이전트들에게 할당함.
이렇게 하면 높은 지능의 메인 에이전트가 굳이 안 해도 될 작업들을 활성 컨텍스트에서 싹 다 쳐낼 수 있음.
아래 이미지는 같은 코드베이스에 같은 프롬프트를 넣고 세 번 돌렸을 때 이 문제가 어떻게 나타나는지 보여줌. 작업 내용은 Jetson Orin에서 돌아가는 OCR + AI 챗봇 애플리케이션 업그레이드였음.
상세 정보:
코드베이스: https://github.com/viettran-edgeAI/Jetson-ocr-ai
벤치마크 프롬프트: GitHub Gist
세 번의 실행 결과 전체: https://github.com/viettran-edgeAI/codex_workflow/tree/main/light_benchmark
| Run | Model | Input | Cached input | Output |
|---|
