자비스를 약속받았는데 50번의 첫 키스 속 드류 베리모어를 받았네요. 제 Hermes 대안을 한번 써보세요.

일단 껄끄러운 얘기부터 먼저 깔고 가자.

난 개발자도 아니다. 숫자 두 개 더하는 함수도 못 짠다. 그냥 로마(이탈리아)에서 온 평범한 놈인데 시스템 사고력은 좀 있는 편이고, 코드는 Claude가 다 짰다. 레딧에 보면 나처럼 코딩 좆도 모르는 망상가 새끼들이 자기가 뭐 대단한 거라도 만든 것처럼 자신만만하게 떠드는데, 다 개소리다. 걔들이 만든 쓰레기 같은 코드 보면 보안 수준이 새 주사기 살 돈도 없는 헤로인 중독자 수준임.

내가 이걸 만든 이유는 에이전트들이 자꾸 뭘 까먹어서 빡쳤기 때문이다.

최고의 메모리 시스템들도 대부분 검색(retrieval)에 의존한다. 에이전트가 알아서 점들을 연결할 거라는 기대만 안 한다면야 괜찮겠지. 근데 도널드 럼즈펠드가 말했듯이, 에이전트는 "자기가 뭘 모르는지도 모른다". 이게 존나 골 때리는 문제임. 에이전트 성능도 문제지만, 예전에 저런 사람이 국방부 장관을 했다는 사실 자체가 더 문제지.

자기가 뭘 모르는지 알려면, 자기가 모르는 게 뭔지 힌트가 되는 무언가를 알고 있어야 한다.

방금 문장 읽고 뇌 정지 안 왔으면, 내 아키텍처를 이해한 거다.

Briglia는 사실들을 그냥 .md 파일에 계속 덧붙이는 방식이 아니라, 너랑 나눈 대화의 연대기적 기록을 50k 컨텍스트 토큰까지 써가면서 큐레이팅한다.

생각해 봐라. 에이전트랑 하루 종일 일하면 토큰 수백만 개는 그냥 날아가는데, 실제로 너랑 에이전트가 주고받은 알맹이는 10k 정도밖에 안 될 거다. 그 메시지들 자체가 이미 네가 작업한 모든 것의 훌륭한 요약본이다. 모든 결정, 모든 선호도, 모든 "아니, 그렇게 말고" 같은 피드백이 다 거기 들어있거든. 그 10k를 1k짜리 밀도 높은 요약본으로 압축하면 하루치 작업 내용을 거의 다 보존하는 셈이다.

Briglia는 이 요약본들을 시간순으로 정리하고 계속 관리한다. 최근 몇 주는 상세하게 유지하고, 몇 달 지난 건 압축해버리지만, 모델은 항상 1년 전까지의 전체 그림을 다 보고 있다. 거기다 사실 보관(fact-archival) 과정을 거쳐서 시간이 지나면서 희석되는 정보들을 잡아내고, 디테일이 필요할 땐 정확히 옛날 메시지를 grep해서 찾아낸다.

세션 같은 거 없다. 그냥 몇 달 동안 이어지는 하나의 대화일 뿐이다.

결과적으로 컨텍스트는 조금 커지지만, 네가 도대체 무슨 말을 하는지 파악하려고 툴 호출을 존나게 해댈 필요가 없어진다. 6개월 전이었으면 컨텍스트 오염(context rot)으로 난리 났겠지만, 요즘 모델들은 100k~250k 정도는 가볍게 처리한다.

이게 얼마나 좋은지 보여주는 "편향된" 증거도 있다. 그냥 느낌적인 느낌이 아님. 내가 자체적으로 돌려본 장기 대화 메모리 벤치마크에서 한 달짜리 대화 중 옛날 사실 48개 중 43개를 기억해냈다. Hermes + Hindsight는 39개, Codex는 6개였다. 방법론이랑 데이터는 댓글 링크에 설명해 놨다(그래, 내 자체 벤치마크니까 휴지 조각보다 조금 나은 수준일 수도 있겠지. 아직 아주 초기 버전이기도 하고).

설치 명령어랑 레포는 댓글에 있다.

OpenRouter API 키랑 텔레그램 봇 토큰만 있으면 된다. 끝이다.

경고하는데, 이거 네 컴퓨터(셸, 파일, 웹, 이메일)에 다 접근할 수 있는 진짜 에이전트다. 믿을 수 있는 컴퓨터에서만 돌려라.