Are there any genuinely good open-source alternatives to LangSmith right now?
LangSmith의 유료화 정책에 부담을 느껴, 에이전트 워크플로우 추적과 디버깅을 위한 오픈소스 대안을 찾는 중임.
LangSmith의 유용한 모니터링/관측 기능들이 유료화 장벽에 막혀 제한적으로 변하는 것 같아서 질문해. 일반적인 호스팅 스택 외부에서 에이전트 워크플로우를 추적하고, 평가하고, 디버깅하기 위해 다들 실제로 무엇을 사용하고 있는지 궁금해.
대부분의 사용자가 결국 호스팅 툴에서 벗어나 직접 인프라를 구축하게 된다는 의견과 함께, Agent workflow의 복잡도에 따라 Phoenix나 LangFuse 같은 툴을 추천하는 분위기임.
Langfuse가 가장 진지하게 다뤄지는 셀프 호스팅 오픈소스 플랫폼이야.
LangFuse랑 LangGraphics 한번 봐봐.
다들 처음엔 호스팅된 observability 툴 쓰다가, 결국 tracing이나 evals가 단순 디버깅을 넘어 핵심 인프라가 되면 스택 일부를 직접 구축하게 되는 듯.
Langship 한번 확인해봐.
에이전트 워크플로우, 특히 다단계나 중첩된 툴 호출을 다룰 때는 트레이스 깊이를 확인하는 게 핵심임. 이게 에이전트 간 스팬이나 중첩 호출까지 보여주는지, 아니면 그냥 최상위 LLM 요청만 보여주는지 봐야 함. Phoenix(Arize)가 이걸 잘 처리하고 셀프 호스팅 설정도 꽤 간편함. LangFuse는 더 단순한 파이프라인에 적합하고 평가가 필요하면 내장된 스코어링 플로우도 있음. MLflow는 이미 그 생태계에 있다면 괜찮지만, 에이전트 트레이싱 기능은 좀 부실한 편임.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
AI 모델 Luna가 '강아지 살해'라는 윤리적 테스트에서 추론 과정 없이 도구를 즉각 실행해버린 현상을 다룬 글.
AI 모델 Luna가 '강아지 살해'라는 윤리적 테스트에서 추론 과정 없이 도구를 즉각 실행해버린 현상을 다룬 글.
