r/langchain•4개월 전•6•5
RAG는 장기 에이전트 작업에 실패하고 있습니다. 이를 해결하기 위해 연속 상태 메모리 엔진을 만들었습니다.
RAG is failing our long-horizon agents. I built a continuous state memory engine to fix it.
핵심 요약
에이전트의 장기 기억 문제를 해결하기 위해 벡터 DB 대신 고차원 배열을 사용하는 'null-drift' 메모리 엔진을 개발했습니다.
- 벡터 DB의 한계 — 에이전트의 불필요한 로그가 쌓여 LLM의 문맥 파악을 방해함
- HRSA 기술 도입 — Holographic Reversible State Accumulation을 통해 상태를 연속 배열로 관리
- 중요도 기반 저장 — 낮은 중요도의 로그는 노이즈로 처리하고 핵심 사건은 고차원 배열에 보존
- 오픈소스 프로젝트 — 파이썬 게이트웨이와 러스트 백엔드로 구성된 로컬 실행 엔진
VectorDB는 문서 검색에는 훌륭하지만, 에이전트의 에피소드 기억에는 끔찍합니다. 에이전트가 1,000단계 동안 실행되면 데이터베이스는 "ping timeout", "navigating to page"와 같은 쓰레기 로그로 가득 찹니다. 이를 쿼리하면 DB는 너무 많은 상충하는 문맥을 반환하고, LLM은 마비됩니다.
null-drift는 Holographic Reversible State Accumulation(HRSA)을 사용하여 이 문제를 해결하려는 오픈소스 시도입니다.
DB에 행을 추가하는 대신, 임베딩을 10,000차원의 연속 배열로 투영합니다. 스칼라 중요도 가중치를 사용하여 이벤트를 바인딩합니다. 즉, 중요도가 낮은 쓰레기는 자연스럽게 통계적 노이즈로 분해되고, 중요도가 높은 마일스톤(예: "API 키 찾음")은 배열에서 거대한 스파이크로 보존됩니다.
이 엔진은 파이썬 게이트웨이와 러스트 상태 관리 백엔드를 통해 로컬에서 실행됩니다. LangChain 통합을 작성하는 데 관심이 있는 분들을 위해, API는 간단한 로컬 HTTP 호출(/inject 및 /recall)로 구성되어 있습니다.
저장소: null-drift
