AI의 지능보다 기억력이 더 중요해지고 있을까?

모델들의 성능이 비슷해질수록 기억력이 더 중요해진다고 생각함. 하지만 그 기억이 선택적이고 제어 가능할 때만 의미가 있음. 단순히 다 기억하는 건 오히려 독이 될 수 있음. AI가 모든 걸 기억하면 새로운 대화에 구식의 가정을 계속 끌어들일 수 있기 때문임. 진짜 장점은 안정적인 선호도, 진행 중인 프로젝트, 과거 결정 사항과 그 이유를 기억하면서도, 언제 다시 물어봐야 할지 아는 것임. 그래서 다음 경쟁은 누가 더 큰 기억력을 가졌느냐가 아니라, 누가 더 잘 불러오느냐가 될 것임…

최고의 답변이 항상 ChatGPT에서 바로 나온 것 같다는 점이 웃기네. 진짜 인터넷이 살아있다는 느낌을 받음.

아니 사양할게. 사람들이 자기만의 '통찰'이라면서 지껄이는 걸 봤는데, 지능이라곤 찾아볼 수 없는 수준의 논리더라고. 고맙지만, 가끔은 '중재되지 않은' 인터넷이 훨씬 나아.

기억력, 더 구체적으로는 '컨텍스트'가 매우 중요함. 대부분은 프롬프팅이나 모델 성능, 크기에만 집중하지만 말이야. 컨텍스트는 계속 무시당하는 방 안의 코끼리 같은 존재임. 내 경험상 20~25% 정도의 컨텍스트가 딱 적당함. 모델이 작업 중인 프로젝트의 부분, 제약 사항, 데이터, 코드, 디자인, 아키텍처, 규칙, 가이드라인 등을 이해하기에 충분한 세부 정보가 들어있는 지점이지…

지난 2년간 에이전트들의 형편없는 품질 때문에 너무 화가 났음. 문제가 생길 때마다 항상 컨텍스트와 기억력 때문이었음. 내가 작업 중인 내용의 진실을 기억하지 못하는 게 너무 짜증 나서 결국 직접 앱을 만들었음 lol. 이제 'attach truthspine'이라고 말하면 연결된 각 에이전트에게 필요한 정보(최신 프로젝트 결정 사항, 완료된 작업, 뒷받침하는 증거 등)를 자동으로 제공함.