r/LocalLLaMA•약 1개월 전•29•16
가중치가 변하지 않는다면, 이게 정말 재귀적 자기 개선(RSI)일까?
If the weights never change, is it really recursive self-improvement?
핵심 요약
모델 가중치 수정 없이 외부 메모리나 에이전트의 개선만으로 재귀적 자기 개선이라 부를 수 있는지에 대한 논의입니다.
- 재귀적 자기 개선 — 모델 가중치 변경 없는 시스템의 성능 향상을 RSI로 볼 수 있는지 의문 제기함
- 에이전트 중심 — 모델 자체가 아닌 에이전트의 연구 과정과 메모리 활용 능력이 개선되는 것에 주목함
- 마케팅 용어 — 기업들이 RAG나 에이전트 기술을 RSI로 포장하여 홍보하는 경향을 비판함
- 시스템 정의 — 하드웨어와 소프트웨어의 구분처럼 모델과 메모리를 분리해서 이해해야 한다는 의견이 제시됨
이 논문은 '재귀적 자기 개선(recursive self-improvement)'이라는 말을 보통 쓰는 것보다 훨씬 좁은 의미로 쓰고 있음.
AQuA는 검증된 증거를 지속적인 연구 상태로 저장해서 나중에 가설 세울 때 써먹는 방식임. 기반이 되는 언어 모델이랑 평가기는 그대로 고정돼 있고. 모델이 스스로 코드를 다시 짜는 수준까지는 아니더라도, 메모리 기반의 연구 자동화라는 측면에서 보면 이 좁은 의미의 주장도 꽤 흥미롭긴 함.
근데 이 논문이 모델 가중치(weight) 수준에서 성능이 올라간다는 걸 입증한 건 아님. 연구 결정을 더 낫게 만들어주는 지속적인 메모리 기능이 있다고 해서 이걸 RSI라고 불러도 되는 건지, 아니면 시스템의 근본적인 능력 자체가 바뀌어야 RSI라고 할 수 있는 건지 좀 애매하네.
