모델에게 '다시 확인'하라고 프롬프트하지 마세요. 어려운 작업에 실제로 효과가 있는 검증 아키텍처를 소개합니다.
Stop prompting models to "double check" their work. Here is the verification architecture that actually works for hard tasks.
핵심 요약
모델의 자기 검증 한계를 극복하기 위해 컨텍스트를 분리한 다중 에이전트 검증 아키텍처를 제안합니다.
- 컨텍스트 분리 — 추론 에이전트와 검증 에이전트를 분리하여 모델의 맹점을 해결함
- GVR 패턴 — 생성-검증-수정 루프를 통해 피드백 기반의 점진적 학습을 수행함
- 코드 검증 — 단순 패턴 매칭이 아닌 인과관계와 경험적 근거를 기준으로 코드를 평가함
- 에이전트 아키텍처 — 작업 독립적인 런타임인 AgentOS를 통해 복잡한 파이프라인을 구축함
아까 이 커뮤니티에서 왜 표준적인 '자기 교정(self-correction)' 프롬프트가 어려운 추론 작업에서 개박살 나는지에 대한 훌륭한 토론을 봤음.
그거 보고 우리가 Apodex에서 이 문제를 해결하려고 프롬프트, 컨텍스트 격리, 에이전트 아키텍처를 어떻게 설계했는지 공유해야겠다는 생각이 들었음.
작년 내내 기본 메타는 단일 에이전트 ReAct 루프였음. 근데 작업이 길어질수록 컨텍스트 윈도우는 터져나가고, 병렬적인 사고들이 서로 오염됨. 무엇보다 제일 큰 문제는, 작업을 검토하는 에이전트가 오류를 저지른 바로 그 에이전트라는 거임. 똑같은 사각지대를 가지고 있는데 뭘 제대로 보겠음?
모델한테 지가 방금 쓴 엉터리 추론 과정을 검토하라고 시키면, 보통은 "오, 논리 완벽한데?" 하면서 자화자찬하고 오류를 그대로 확정 지어버림.
이걸 고치려고 우리는 "더 열심히 해봐" 식의 프롬프트 짜는 짓은 때려치우고, 컨텍스트를 엄격하게 격리하는 헤비듀티 에이전트 팀(Heavy-Duty Agent Team) 아키텍처로 갈아탔음.
1. 검증은 추론을 안 한 에이전트가 해야 함.
자기 개선 루프 대신, 우리는 작업을 수행할 비동기 서브 에이전트를 생성하는 오케스트레이터와, 그걸 감사할 완전히 별도의 검증 팀을 사용함.
- 갈등 검토자(The Conflict Reviewer): 의견이 갈리는 두 서브 에이전트의 보고서를 보고, 어떤 주장이 원본 증거에 의해 실제로 뒷받침되는지 판단하도록 프롬프트됨.
- 팩트 체크(The Fact Checker): 개별 주장을 원본 추론 과정에서 완전히 숨겨진 새로운 소스들과 대조해서 다시 검증하도록 프롬프트됨.
- 초안 검토자(The Draft Reviewer): 최종 종합본을 감사함.
2. 생성-검증-수정(GVR) 프롬프팅 패턴
수학이나 논리 문제에는 아까 여기서 논의된 거랑 비슷한 루프를 씀. 채점자는 같은 모델이지만, 정답지나 채점 기준은 절대 안 보여줌.
오직 문제랑 초안만 던져줌. 그리고 0~7점까지 점수를 매기고 구체적인 비판을 쓰라고 시킴.
다음 생성 시도는 그 비판을 바탕으로 방향이 잡힘. 이건 단순히 best-of-K 샘플링이랑은 근본적으로 다름. 왜냐면 매 시도가 이전의 명확한 진단으로부터 실제로 '학습'을 하거든.
이 컨텍스트 격리 패턴 하나로 우리 IMO-ProofBench Advanced 점수가 12.38에서 34.29까지 떡상함.
3. 코딩 채점 프롬프트 변경
코드에 표준 채점 프롬프트("어떤 후보 패치가 더 나아?")를 썼을 때는, 모델이 근본적인 해결책보다는 try/except 블록으로 버그를 가려버리는 패치를 골라버리더라고. 그래서 검증 프롬프트를 다음 세 가지 축을 채점하도록 싹 다 뜯어고쳤음.
- 이해력(Comprehension): 진짜 문제를 파악했나, 아니면 그냥 패턴 매칭만 했나?
- 인과관계(Causality): 수정안이 근본 원인을 해결하나?
- 실증적 근거(Empirical Grounding): 실행 결과 증거가 있나?
우리는 이 모든 걸 커널에 DAG를 하드코딩하지 않고도 돌릴 수 있는 작업 불문 런타임, AgentOS를 만들었음.
복잡한 프롬프트 파이프라인이나 멀티 에이전트 셋업을 짜고 있다면, 우리 API를 쓰거나 직접 호스팅해서 이 아키텍처를 한번 돌려봐!!!
다들 쏟아내는 피드백들 너무 좋음! 뭐든 빡세게 굴려보라고:
🤗 (0.8B, 2B, 4B, 35B Open Weights): https://huggingface.co/collections/apodex/apodex-1 ⭐️ 박아주면 감사: 📢 웹 앱 체험 (1.0-H 무료 얼리 액세스): API로 빌드하기 🦾:
