"Memory" vs. a good ol markdown file
AI 에이전트의 메모리 시스템이 복잡한 구조를 가질 필요가 있는지, 아니면 마크다운 파일로 충분한지에 대한 논의.
요즘 어딜 가나 에이전트 메모리 시스템 얘기뿐이네. 솔직히 궁금한 게, 에이전트한테 그냥 잘 정리된 마크다운 파일 하나 던져주는 거랑 비교했을 때, 이렇게 복잡한 검색 메커니즘이 진짜 필요한 거냐? 에이전트가 직접 업데이트하는 파일보다 메모리 인프라가 확실히 더 낫다고 느꼈던 구체적인 사례가 있어?
대부분의 사용자는 단순한 작업에는 마크다운이 충분하다고 보지만, 데이터 규모가 커지거나 복잡한 검색이 필요할 때는 전용 메모리 시스템이 효율적이라는 의견이 대립하고 있습니다.
에이전트의 상태가 짧고 제한적이며 순차적으로 읽힐 때는 마크다운이 최고임. 하지만 여러 작업에 걸쳐 선택적으로 정보를 불러와야 하거나 사실 관계가 시시각각 변할 때는 한계가 옴. 이때는 검색 경로, 즉 무엇을 가져왔고 왜 가져왔는지, 에이전트가 어떤 버전을 기반으로 행동했는지를 추적하는 게 유용함.
SHA-256이라도 좀 써봐.
그래서 짧은 작업들을 관리하는 오케스트레이터를 쓰는 거임. 지라 티켓 스타일 시스템처럼 모든 걸 기록하고 제어하게 만드는 거지.
그거 설정하려면 어떤 프롬프트를 써야 함?
그냥 지라 티켓팅 시스템 만들고 싶다고 말해봐. 그럼 지가 알아서 추적하고 조정해서 PM인 너한테 넘겨줄 거야.
Claude 스킬 찾아서 커스텀하게 시킬 수도 있고.
난 이걸 목표 스킬로 쓰는데, 내 목표가 뭔지 알려주면,
알아서 보드를 만들어줌.
버그 수정이든 CRM 만드는 거든 뭐든 다 가능함.
프롬프트 1: 오케스트레이터 프롬프트 (시스템 프롬프트)
너는 자율 소프트웨어 개발 파이프라인의 리드 오케스트레이터다. 네 역할은 작업 보드를 관리하고, 상위 수준의 요청을 원자 단위의 작업으로 쪼개고, 서브 에이전트들에게 할당하고, 작업 상태를 업데이트하는 것이다.
보드 구조 (TASKS.md 또는 JSON):
핵심 작업...
마크다운에 인덱스를 추가하면 전체를 다 읽을 필요가 없어서 토큰을 아낄 수 있음.
모델들이 점점 똑똑해져서 파일 전체를 읽지 않아도 잘 처리함. 내 프로젝트에 511KB, 7989줄짜리 EXPERIMENTS.md 파일이 있는데, 아카이브에서 찾은 특정 접근법을 기록해 둔 거임. 모델이 이걸 다 읽는 건 본 적이 없음. 항상 grep이나 sed만 쓰더라고.
메모리도 마크다운 파일이랑 비슷한데, 에이전트가 더 효율적으로 쿼리할 수 있어서 토큰을 덜 먹는 것뿐임. 혁명적인 건 아님.
그냥 파티셔닝이 가능하게만 만들면 됨. 마크다운 파일은 시간이 지나면 비대해지는 경향이 있고, 모델은 보통 시작할 때 파일 전체를 불러오거든. 쿼리 가능한 메모리 시스템이 일반적인 컨텍스트 관리에는 더 나음.
[레딧에 의해 삭제됨]
규모의 문제임. 크기, 접근 속도, 그리고 시간(오래된 정보는 덜 중요함). 대화형 브라우저 에이전트는 메모리가 있음. 과거 대화를 알고, 가끔 사실을 끄집어내고, 조정도 하지. '관계'를 오래 유지해야 한다면 말이야. 그냥 한 번 쓰고 버리거나 간단한 경우라면 파일이나 API면 충분함. 대단할 거 없음. 난 플랫폼용 사용자 코파일럿을 만들었는데, 사실과 정보들이 그래프 형태로 연결되어 있고 시간이 지나면 감쇠함. 사용자당 하나씩 메모리가 생기니까 수십, 수백, 수천 개가 되는 거라 메모리 시스템이 필요한 거지.
1년 동안 에이전트 하네스를 만들고 메모리 옵션 몇 개를 테스트해 본 결과, 오늘부터 내 플랫폼에는 QMD와 마크다운을 쓰기로 했음. 마크다운을 강력 추천하지만, 꼭 QMD랑 같이 쓰길 바람.
마크다운이 460개 이상의 세션과 높은 디테일 수준을 버틸 수 있을지 의문임. 복잡할 필요는 없지만, 자기 목적에 맞게 충분히 효율적이어야 함.
511KB인데도 전체를 안 읽고 grep만 쓴다니, 메모리 계층을 단순하게 유지해야 한다는 꽤 좋은 근거네.
AI 에이전트의 데이터베이스 쓰기 사고를 방지하기 위해 브랜치 기반의 변경 사항 검토 및 병합 시스템을 도입하는 방안을 논의합니다.
AI 에이전트의 데이터베이스 쓰기 사고를 방지하기 위해 브랜치 기반의 변경 사항 검토 및 병합 시스템을 도입하는 방안을 논의합니다.
Google이 예고 없이 AI Plus 요금제에서 Pro 모델 접근 권한을 제거하여 사용자들의 불만이 폭주하고 있습니다.
Google이 예고 없이 AI Plus 요금제에서 Pro 모델 접근 권한을 제거하여 사용자들의 불만이 폭주하고 있습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.