[논문] 가중치 공간 프로그래밍의 불꽃: LLM이 신경망 가중치를 직접 읽고 쓸 수 있다
[Paper] Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights
핵심 요약
LLM이 신경망 가중치를 직접 해석하고 수정하는 '가중치 공간 프로그래밍'의 가능성을 제시한 연구가 주목받고 있습니다.
- 가중치 직접 수정 — LLM이 신경망의 가중치를 읽고 수정하여 성능을 개선함
- 가중치 공간 프로그래밍 — 인간의 언어와 가중치 공간을 연결하는 새로운 최적화 방식
- 잠재적 활용 — 모델 해석력 향상, 최적화 비용 절감, 제로 데이터 기능 주입 가능
- 연구의 한계 — 현재는 소규모 모델 위주이며 과장된 홍보라는 비판도 존재함
TL;DR
최신 LLM들이 신경망 가중치를 직접 읽고 쓰는 능력이 인간이나 기존 알고리즘이 할 수 있는 수준을 훨씬 뛰어넘을 정도로 놀랍다는 걸 발견했다. 이건 최적화나 해석 가능성 측면에서 엄청난 사건이 될지도 모른다.
GPT-6 Astra는 그냥 가중치 날것만 보고도 그 네트워크가 뭘 하려고 학습됐는지 바로 알아맞힌다. 게다가 환경 피드백 없이도 바닥부터 작은 게임용 네트워크를 뚝딱 만들어내는데, 이게 PPO로 1억 스텝이나 돌린 네트워크보다 훨씬 잘한다.
비슷하게, Qwen3.5-0.8B의 수학 실력을 그래디언트 없이 올리라고 시켰더니, Astra가 Qwen의 모델 카드에서도 경고했던 추론 루프 문제를 가중치에서 바로 찾아내더라. 그리고 가중치의 0.016%만 직접 수정해서 이 문제를 해결해 버렸다. 똑같은 샘플링 설정에서 이 가중치 보정만으로 MATH-500 점수가 7.9%에서 48.1%로 떡상했고, 지시 이행 능력도 IFEval 기준 3배나 올라가는 범용성을 보여줬다.
이 모든 게 Astra한테 학습 루프를 돌리게 시킨 것도 아닌데 가능했다. 그냥 추론 능력을 써서 신경망의 각 부분이 뭘 계산하는지, 뭘 계산해야 하는지 파악하고 그에 맞춰 가중치를 바꾼 거다. 우린 이걸 **가중치 공간 프로그래밍(Weight-Space Programming)**이라고 부른다.
딥러닝 역사 내내 우린 Adam이나 Muon 같은 쪼끄만 기호 최적화 도구에 단순한 귀납적 편향을 때려 박아 넣었다. 이제 상황이 바뀐다. 앞으로 우리 신경망 가중치는 가중치에 대해 직접 고민하는 LLM들이 알아서 최적화하게 될 거다.
