r/LocalLLaMA•약 2시간 전•42•8
학습 없이 LLM 가중치를 직접 수정하는 결정 모델
Decision model to edit LLM weight directly - No training
핵심 요약
학습 과정 없이 3ms 만에 LLM 가중치를 직접 수정하여 새로운 기술을 주입하는 결정 모델 기술을 공개함.
- 가중치 직접 수정 — 학습 없이 LLM의 가중치를 수정하여 새로운 기능을 주입함
- 성능 및 속도 — LoRA와 대등한 성능을 내면서 3ms 만에 수정이 가능함
- 기술적 접근 — 에너지 기반 결정 엔진에서 증류하여 Qwen 3.5 0.8B 모델에 적용함
- 메모리 효율성 — 파괴적 망각 현상 없이 효율적으로 모델을 업데이트함
9월 18일, 너희들 요청대로 이 서브레딧 최초의 시스템 1 오픈소스 의사결정 모델인 Laya를 공개했는데, 진짜 엄청난 지지를 보내줘서 고마웠다. MIT에서 올린 가중치 직접 수정 관련 글을 보고 의사결정 모델로도 똑같이 할 수 있겠다는 생각이 들더라. 그래서 두 달 동안 굴러본 끝에, 의사결정 모델을 써서 LLM 가중치를 수정하는 방법을 알아냈다. 에너지 기반 의사결정 엔진에서 지식을 증류해서 Qwen 3.5 0.8B한테 새로운 기술을 가르친 셈이지. 적절한 타이밍에 툴 콜링을 하는 것처럼 말이야. 모델의 결정은 마치 지형의 골짜기 같아서, 모든 답변이 정직한 확신을 가지고 그 골짜기로 굴러떨어지게 설계했다. 방금 그 골짜기들을 LLM에 그대로 박아 넣었다. LoRA랑 똑같은 수준으로 작동하는데, 수정하는 데 3밀리초밖에 안 걸리고 치명적인 기억 손실도 없다.
https://www.kaggle.com/code/nandakishorconvai/fast-edits-decsion-model
