우리 팀에 맞는 AI 평가 도구 고르는 법

지난 1년간 저는 컨설팅과 강의 모두에서 AI 평가(Evals)에 집중해 왔습니다. 그러다 보니 "평가 도구 중 뭐가 제일 좋나요?"라는 질문을 정말 자주 받습니다. 그런데 저는 항상 직접적인 답변을 피해 왔는데, 이유는 두 가지입니다. 첫째, 많은 분이 프로세스보다 도구 자체에 지나치게 집중하면서 도구만 도입하면 바로 문제가 해결될 거라 기대하지만, 현실은 거의 그렇지 않습니다. 둘째, 도구들이 워낙 빠르게 변해서 비교 자료가 나오는 순간 이미 구식이 되어 버립니다.

인기 있는 평가 도구 대부분을 직접 써 본 입장에서 솔직히 말하면, 모든 면에서 뛰어난 단 하나의 도구는 없습니다. "최고의" 도구는 팀의 역량, 기술 스택, 그리고 성숙도에 따라 달라집니다.

그래서 기능별 비교표를 늘어놓는 대신, 평가에 숙련된 데이터 사이언티스트 패널이 어떤 관점으로 도구를 검토하는지 보여드리는 편이 더 유익하다고 생각했습니다. 제가 진행하는 AI 평가 강좌의 일환으로, 대표적인 세 벤더—Langsmith, Braintrust, Arize Phoenix—에 동일한 과제를 수행하도록 요청했습니다. 덕분에 같은 문제를 각 도구가 어떻게 풀어내는지 직접 비교해 볼 수 있었습니다.

전 과정과 실시간 코멘터리를 녹화해 두었으며, 아래에서 확인하실 수 있습니다. 팀에 맞는 도구를 선택할 때 어떤 점을 고려해야 하는지 파악하는 데 도움이 되길 바랍니다.

패널로 함께해 주신 Shreya Shankar와 Bryan Bischof에게 감사드립니다.

Langsmith

LangChain CEO Harrison Chase 출연

Braintrust

Braintrust 전 개발자 관계 담당 Wayde Gilliam 출연

Arize Phoenix

Arize Technical AI Product Leader SallyAnn DeLucia 출연

AI 평가 도구를 검토할 때 살펴야 할 기준

리뷰 과정에서 반복적으로 떠오른 핵심 주제들을 정리했습니다.

1. 워크플로와 개발자 경험

개별 기능보다 마찰을 줄이는 것이 더 중요합니다. 구체적으로는, 실패를 발견한 시점부터 해결책을 반복 실험하기까지 걸리는 시간에 주목해야 합니다. 예를 들어, 하나의 트레이스를 확인한 뒤 바로 같은 트레이스를 플레이그라운드에서 실험해 볼 수 있는 기능은 상당히 유용했습니다. 데이터 사이언스 배경의 팀이라면, 투명성과 통제력을 제공하는 노트북 중심 워크플로가 이상적입니다. 저 역시 이 방식을 선호합니다.

노트북 중심 워크플로를 고려한다면, SDK의 사용 편의성을 꼼꼼히 살펴야 합니다. 결국 문서화 품질과 기존 데이터 도구와의 연동이 핵심입니다.

2. 사람이 참여하는 워크플로 지원

좋은 도구는 사람을 자동화로 대체하려 하지 않고, 사람의 역할을 강화합니다. 오류 분석은 AI 엔지니어링에서 ROI가 가장 높은 활동이므로, 효율적인 사람의 리뷰를 얼마나 잘 지원하는지가 도구 선택의 핵심입니다. 수동 어노테이션과 오류 분석을 일급 기능으로 지원하는 도구를 우선적으로 고려하세요. 이 글을 쓰는 시점에서, 많은 도구에 아직 빠져 있는 기능 중 하나가 axial coding입니다.

3. 투명성과 통제력 vs. "마법 같은" 자동화

사람의 검증 없이 완전 자동화를 약속하는 기능은 깊이 의심해야 합니다. 겉보기엔 편리하지만, 근거 없는 자신감이라는 위험한 착각을 만들어 낼 수 있습니다. 특히 AI 에이전트가 평가 기준을 직접 만든 뒤 곧바로 점수까지 매기는 기능에 주의하세요. 이런 "추상화의 중첩"은 높은 점수 뒤에 결함을 감추기 일쑤입니다. 통제력과 가시성을 제공하는 도구를 선택하세요.

4. 에코시스템 통합 vs. 폐쇄형 생태계

평가 도구는 우리 스택에 맞춰져야지, 도구의 스택에 우리가 맞춰야 하는 상황이 되어선 안 됩니다. 기존 기술 환경과의 통합 수준을 반드시 확인하세요. 또한 독자적인 DSL은 오히려 마찰을 높일 수 있으니 경계해야 합니다. 마지막으로, 다양한 환경에서 분석할 수 있도록 데이터를 범용 포맷으로 내보내는 기능은 필수입니다.

결론

어떤 도구가 적합한지는 팀의 워크플로, 역량, 그리고 구체적인 요구사항에 따라 달라집니다. 패널이 평가 도구를 검토한 과정을 통해, 여러분이 직접 판단할 때 참고할 만한 프레임워크를 얻으셨길 바랍니다.

저 개인적으로는 이런 도구들을 백엔드 데이터 저장소로 활용하면서, 실제 작업 대부분은 Jupyter 노트북과 직접 만든 어노테이션 인터페이스로 처리하는 편입니다.

부록: 벤더별 요약 (2025년 중반 기준)

아래 내용은 참고 수준으로 받아들이시길 권합니다. 위의 영상을 직접 보시면 우리가 각 기준을 어떻게 적용했는지, 그리고 여러분의 상황에 따라 어떤 부분에서 판단이 달라질 수 있는지 감을 잡으실 수 있습니다.

Langsmith 평가 노트

전반적인 인상 전체 워크플로가 직관적이며, 특히 체계적인 평가 프로세스에 익숙하지 않은 사용자에게 진입 장벽이 낮았습니다. UI가 데이터셋 생성, 실험 실행, 결과 어노테이션까지의 흐름을 자연스럽게 안내합니다.

긍정적인 피드백 / 좋았던 점

트레이스에서 플레이그라운드로의 매끄러운 전환: 트레이스를 살펴보다가 바로 플레이그라운드에서 실험해 볼 수 있는 흐름이 매우 자연스러웠습니다.
AI 기반 프롬프트 개선: "Prompt Canvas" 기능은 프롬프트 엔지니어링에 유용한 도구였습니다.
데이터셋 생성 및 관리: 파일 업로드로 손쉽게 데이터셋을 만들 수 있고, 스키마 자동 감지 기능이 데이터 구조화를 도와줍니다.
실험 및 평가: "Annotation Queue"는 트레이스에 대한 사람의 리뷰와 라벨링을 위한 전용 인터페이스로, 스프레드시트보다 훨씬 효율적입니다.

개선이 필요한 점

나란히 비교하기 어려움: 서로 다른 프롬프트 버전과 그 결과물을 나란히 비교하는 기능이 UI에서 잘 지원되지 않았습니다.
UI/UX 관련 아쉬움: 한 화면에 너무 많은 옵션과 정보가 표시되어 다소 복잡하게 느껴질 수 있습니다.
과도한 자동화 우려: AI가 예시 데이터를 자동 생성해 주는 기능은 편리하지만, 데이터가 획일화될 수 있다는 점에 유의해야 합니다.

Braintrust 평가 노트

전반적인 인상 패널 전체적으로 Braintrust에 대해 긍정적인 평가를 내렸으며, 깔끔한 UI와 체계적인 평가 접근법을 높이 평가했습니다. 사람이 참여하는 워크플로를 강조하는 점이 큰 강점이었습니다.

긍정적인 피드백 / 좋았던 점

체계적인 평가 프로세스 중시: 도메인 전문가(SME)를 참여시켜 초기 데이터셋을 구축하는 것부터 시작하는 등, 방법론적으로 탄탄한 접근법을 보여주었습니다.
깔끔하고 직관적인 UI: 다른 도구보다 UI가 깔끔하고 탐색이 쉬웠으며, 특히 트레이스 조회 화면의 가독성이 좋았습니다.
사람 참여 워크플로에 대한 탄탄한 지원: 사람의 리뷰와 어노테이션을 위한 전용 UI가 갖춰져 있어, 고품질 데이터셋 구축과 오류 분석에 핵심적인 역할을 합니다.
"Money Table": 트레이스에 실패 유형을 어노테이션한 뒤 최종 데이터셋 뷰에서 바로 정렬·필터링·정량화가 가능해, 가장 빈번한 실패 유형을 한눈에 파악할 수 있는 실행 가능한 결과물이었습니다.

개선이 필요한 점

"Loop" AI 채점 기능: 가장 큰 우려는 "Loop" 기능이었습니다. AI 에이전트가 평가 기준을 만든 뒤 곧바로 결과를 채점하는 방식인데, 잘못된 안심감을 줄 수 있다는 점이 문제입니다.
독자적 쿼리 언어(BTQL) 의존: 패널은 "BTQL"에 다소 회의적인 반응을 보였으며, 데이터를 Jupyter 노트북으로 내보내서 작업하는 편을 선호했습니다.
매끄럽지 못한 데이터 워크플로: 합성 데이터를 생성하고 다듬는 과정에서 데이터를 다운로드했다가 다시 업로드해야 하는 등 비효율적인 부분이 있었습니다.

Arize Phoenix 평가 노트

전반적인 인상 패널은 Phoenix에 대해 전반적으로 긍정적이었으며, 한 패널은 "가장 좋아하는 오픈소스 평가 도구 중 하나"라고 평가했습니다. 개발자 중심의 노트북 기반 플랫폼으로 자리매김하고 있습니다.

긍정적인 피드백 / 좋았던 점

노트북 중심 워크플로: 전체 평가 과정이 Jupyter 노트북에서 이루어져 투명성과 통제력을 확보할 수 있었습니다. 어노테이션된 데이터를 Pandas DataFrame으로 다시 내보낼 수 있는 기능도 강력한 장점이었습니다.
UI와 개발자 경험: 프롬프트 관리 UI가 명확하고 이해하기 쉽다는 호평을 받았습니다. 트레이스와 "Playground" 간의 긴밀한 연동 역시 매끄러운 워크플로로 주목받았습니다.
오픈소스 & 로컬 우선 접근: Phoenix는 완전히 로컬에서 실행할 수 있어 통제력과 투명성을 확보할 수 있습니다. 오픈소스 도구답게 "직접 커스터마이징하기 좋다"는 평가를 받았습니다.

개선이 필요한 점

UI 가독성: 시연 중 출력 패널의 텍스트가 읽기 어려웠으며, 모델 출력에 대한 마크다운 렌더링이 지원되지 않는 것으로 보였습니다.
지표 및 시각화: 각 실행에 대해 단일 통계값을 표시하지만, 패널은 이것만으로는 부족하다고 느꼈으며 이상치를 파악할 수 있는 히스토그램 같은 집계 시각화 기능을 원했습니다.
프롬프트 관리 및 테스트: 프롬프트 편집기가 시스템 프롬프트를 하나의 큰 텍스트 덩어리로 취급합니다. 개별 지시문을 켜거나 끌 수 있는("절제(ablation)" 가능한) 컴포넌트 기반 접근이 체계적인 테스트에 더 적합할 것입니다.