AI 메모리 시스템은 어떤 기억이 중요한지 어떻게 결정할까?
How do AI memory systems decide which memories are important?
핵심 요약
AI 에이전트의 장기 기억 관리와 중요도 판단 기준에 대한 기술적 고민을 공유합니다.
- 메모리 관리 — 중요도에 따른 기억 저장 및 삭제 전략
- 데이터 최적화 — 벡터 DB의 효율적인 검색과 노이즈 제거
- 상황별 처리 — 선호도 변화와 기억의 갱신 방식
- 구현 전략 — 요약 파이프라인과 리플렉션 루프 활용
최근 MemGPT 논문을 읽다가 AI 에이전트나 홈 어시스턴트를 위한 메모리 시스템에 대해 고민하게 되었습니다.
저는 LLM에 다음과 같은 데이터를 제공하고 있습니다: 최근 메시지 10개(PostgreSQL), 센서 실시간 데이터(Redis), 청크(Vector DB의 관련 벡터).
그런데 이 Vector DB는 시간이 지날수록 커질 겁니다. 이미 중요하지 않은 대화가 많이 저장되어 있어서 중요한 대화를 검색하기 어려워질 수 있죠. 그래서 어떤 대화를 저장하고 어떤 것을 버릴지 감지하는 방법을 정의해야 합니다. 그래야 LLM이 혼란을 겪지 않고 Vector DB에서 정확하고 중요한 청크를 가져올 수 있을 테니까요.
아직 완전히 이해하지 못한 부분이 하나 있습니다:
AI 시스템은 어떻게 결정해야 할까요:
- 어떤 기억이 장기 저장할 만큼 중요한지
- 어떤 기억을 무시해야 하는지
- 그리고 오래된 기억은 언제 갱신하거나 잊어야 하는지?
예를 들어:
스마트 홈 어시스턴트가 다음과 같은 사실을 학습했다고 가정해 봅시다:
- 2달 전, 사용자는 에어컨 온도를 24°C로 선호했음
- 하지만 최근에는 계속 26°C로 설정함
이제 시스템은 결정해야 합니다:
- 오래된 기억을 덮어쓸 것인가?
- 둘 다 저장할 것인가?
- 새로운 선호도에 대한 신뢰도를 높일 것인가?
- 시간이 지남에 따라 오래된 기억을 감쇠시킬 것인가?
또 다른 과제는 이것입니다:
애초에 무엇이 '중요한 기억'인지 어떻게 식별할까요?
예시:
- 선호하는 실내 온도 → 아마도 중요함
- 무작위 날씨 질문 하나 → 아마도 중요하지 않음
그렇다면 사람들은 메모리 중요도를 분류하기 위해 어떤 신호를 사용하고 있나요?
모든 상호작용을 영원히 저장하는 것은 분명 노이즈가 많고 비효율적입니다. 그래서 실제 AI 에이전트 시스템에서 사람들이 이 문제를 어떻게 접근하고 있는지 궁금합니다.
여러분은 다음 중 무엇을 사용하시나요:
- 메모리 점수 시스템?
- 요약 파이프라인?
- 리플렉션 루프?
- 벡터 검색만 사용?
- 휴리스틱 규칙?
- 강화학습 스타일의 업데이트?
AI 에이전트에서 변화하는 선호도와 장기 기억 관리를 다른 분들이 어떻게 해결하고 있는지 듣고 싶습니다.
참고: 이 텍스트는 ChatGPT를 사용하여 생성했습니다.
