기업용 AI 앱/에이전트를 개발할 때 테스트는 어디서 하시나요?
If you're building AI apps/agents for companies, where do you test them?
핵심 요약
AI 에이전트의 실전 테스트를 위해 샌드박스 한계를 극복하고 실제와 유사한 복잡한 데이터를 확보하는 전략을 논의합니다.
- 데이터 현실성 — 실제 고객 데이터의 익명화된 내보내기나 의도적으로 오염된 합성 데이터를 활용함
- 섀도우 모드 — 실제 데이터를 읽되 결과만 로그로 기록하여 실제 업무 흐름과 비교함
- 테스트 분리 — 개발자가 아닌 제3자가 테스트 시나리오를 작성하고 평가하게 함
- 실전 검증 — 자동화된 테스트 후 베타 사용자를 통해 실제 환경에서 인간이 직접 검증함
기업이나 스타트업용 툴 만드는 형들, 실제 고객이 쓰기 전에 에이전트 테스트 어떻게들 하고 있어?
난 Claude한테 샌드박스 좀 만들어달라고 해서 돌려보고 있는데, 솔직히 이게 제대로 된 테스트가 되는 건지 잘 모르겠어. 실제 회사 환경처럼 복잡하거나 지저분하지도 않고, 그냥 Claude가 지가 짠 코드니까 통과할 만한 시나리오만 대충 만들어내는 느낌이거든.
다들 실제로 효과 보는 방법이 뭐야? Mocked API를 쓰는 거야, 아니면 직접 데이터 채워 넣은 테스트 계정을 쓰는 거야? 그것도 아니면 그냥 친한 고객한테 던져놓고 YOLO로 돌리면서 지켜보는 거야?


