8개월 동안 에이전트 개발하며 느낀 점

나도 에이전트 씀. 하루 2000건 처리하는데 커스텀한 기본 에이전트 사용 중. 배운 점: 에이전트랑 사고 과정이 많아질수록 hallucination도 늘어남. OpenAI랑 Claude가 모델이나 시스템 프롬프트를 수시로 바꿔서 결과값에 영향 줌. LLM 안 써도 되는 게 태반임.

진짜 공감함. 마지막 포인트가 핵심임. 요즘 다들 AI로 뭐든 하려고 하는데, 제발 생각 좀 하고 말했으면 좋겠음. 다 개소리임. PoC나 MVP 단계에서 돈 쏟아붓는데, 조금만 생각해보면 AI 없이도 간단하게 해결될 문제들임. 두 번째 포인트도 맞음. 아무도 이 얘기 안 하는데, LLM 기반 솔루션을 몇 년간 유지보수한다는 건...

신중한 use case 선정이 제대로 된 AI를 만듦. 우리 분야는 상호작용의 60~70%가 반복적이라 이 지표를 활용해서 hallucination 여부를 상시 체크함. 이걸로 결론 내린 건데, OpenAI랑 Claude는 한 달에 2~4번씩 바뀜. 엔터프라이즈용으론 절대 못 믿음.

진짜 뭐라도 배포해야 한다면 LangGraph 고를 듯. 제일 쉬워서가 아니라, 데모 수준을 넘어가면 마법 같은 기능보다 제어가 중요하니까. 상태, 재시도, 실패 경로, 툴 호출, 에이전트 이동 경로 같은 게 명확해야 함. 'production-ready'는 프레임워크 자체보다 비용 제한, 루프 감지, 폴백 같은 런타임 환경이 더 중요함.

그냥 순정 LangGraph 썼는데 잘 돌아감. AI가 워낙 예측 불가능해서 guardrail 엄청 많이 걸어야 함.