r/AI_Agents•2일 전•48•49
AI 메모리가 여전히 엉망인 이유
There's a reason why AI memory is still fucked
핵심 요약
벡터 저장소 기반의 단순한 메모리 구조가 상태 변경과 사실 관계를 제대로 처리하지 못하는 한계를 지적하며 해결책을 논의함.
- 벡터 저장소 한계 — 단순 유사도 검색은 상태 변경이나 사실 관계 업데이트를 반영하지 못함
- 구조화된 데이터 추출 — 사실, 선호도, 이벤트를 구분하는 타입 기반 추출 파이프라인의 필요성
- 지식 그래프 도입 — 단순 벡터 검색 대신 지식 그래프와 계층적 메모리를 활용한 상태 관리 제안
- 진실성 확보 — 벡터 저장소를 유일한 진실의 원천이 아닌 보조적인 검색 도구로 활용하는 아키텍처
모든 메모리 툴은 그냥 껍데기만 씌운 개같은 벡터 스토어일 뿐이야. 대화 내용을 임베딩해서 데이터베이스에 처박아두고, 필요할 때 가장 비슷해 보이는 거 긁어오는 게 다라고.
내가 실무용 에이전트를 만드는데, 사용자들한테 이런 일이 비일비재함. 어떤 사용자가 세션 4에서 델리에서 뭄바이로 이사했다고 에이전트한테 말했는데, 세션 7에서 에이전트가 델리에 있는 식당을 추천하더라고. 예전 임베딩 점수가 더 높게 나왔거든. 사용자가 선호도를 바꿔도 스토어는 이전 버전이랑 새 버전을 둘 다 들고 있고, 모델은 그 사이에서 랜덤으로 골라버림. 이건 모델 문제가 아니라 메모리가 뭐가 바뀐 건지 전혀 모르는 게 문제임.
팩트, 선호도, 이벤트를 구분할 수 있게 타입을 지정해서 추출하는 툴이 필요해. 모순되는 정보가 들어오면 옛날 팩트는 지워버리고, 10가지 방식으로 언급된 사람도 결국 동일 인물로 처리하는 엔티티 리졸루션 기능도 있어야 하고.
지금 내가 선택할 수 있는 옵션이 뭐가 있을까?
