r/langchain•5개월 전•1•10
LangChain 에이전트를 위한 오픈소스 런타임 실행 레이어를 만들었습니다 — GitHub 700 스타 달성, 피드백을 기다립니다
We built an open-source runtime enforcement layer for LangChain agents — just hit 700 stars, looking for feedback
핵심 요약
프롬프트 기반 가드레일의 한계를 해결하기 위해 마크다운 기반의 실시간 규칙 강제 레이어 Caliber를 출시함.
- 런타임 가드레일 — 프롬프트 기반 보안의 한계를 극복하기 위해 LLM과 앱 사이에서 규칙을 강제함.
- Caliber 오픈소스 — 마크다운으로 비즈니스 규칙을 작성하며 LangGraph, CrewAI 등과 호환됨.
- GitHub 700 스타 — 커뮤니티의 뜨거운 반응 속에 700 스타와 100개 이상의 포크를 기록함.
- 실전 환경 최적화 — 데모가 아닌 실제 프로덕션 환경에서의 에이전트 제어 문제를 해결하고자 함.
LangChain 에이전트를 프로덕션에서 사용해 보셨다면 아마 이런 경험이 있으실 겁니다. 시스템 프롬프트는 한 가지를 말하는데, 에이전트는 딴짓을 하는 경우 말이죠.
프롬프트 기반의 가드레일은 데모에서는 잘 작동합니다. 하지만 더 큰 컨텍스트와 더 많은 툴이 포함된 프로덕션 환경에서는 성능이 급격히 저하됩니다.
저희는 이를 해결하기 위해 Caliber를 만들었습니다. 이 도구는 앱과 LLM 사이의 프록시 역할을 하며, 일반 마크다운에서 비즈니스 규칙을 읽어 런타임에 이를 강제합니다. LangGraph, CrewAI 및 커스텀 설정과 연동됩니다. 베이스 URL 하나만 변경하면 됩니다.
방금 GitHub 700 스타 ⭐를 돌파했고 100개의 포크를 앞두고 있습니다. 커뮤니티의 반응에 정말 기쁩니다.
Repo: https://github.com/caliber-ai-org/ai-setup
다음을 듣고 싶습니다:
- LangChain의 어떤 엣지 케이스가 여러분의 가드레일을 무너뜨리고 있나요?
- 어떤 기능이 추가되면 여러분의 스택에 이 도구가 필수적이 될까요?
모든 피드백과 기능 요청에 열려 있습니다. 커뮤니티를 위해 이것을 만들고 있습니다.
