r/LocalLLaMA•19일 전•46•51
Deepseek v4.1 flash 드디어 engram 탑재, 4.1 pro에선 뭘 기대함?
Deepseek v4.1 flash finally has engrams, what do you expect from 4.1 pro?
핵심 요약
Deepseek v4.1 flash의 engram 도입에 따른 기술적 기대와 하드웨어 요구 사항에 대한 토론.
- Engram 기술 — 사실적 지식 접근성을 높이지만 추론 깊이에는 한계가 있음.
- 하드웨어 요구사항 — 대규모 모델 구동을 위한 SSD 가격 상승 우려.
- 모델 스케일링 — 매개변수 대비 engram 크기 최적화에 대한 논의.
- 기술적 전망 — 향후 모델 버전에서 engram 성능 개선 기대.
비율이 똑같다면, 아마 1.6T~3.1T 파라미터에 0.56T~1.06T 잉그램(engram)을 더해서 fable 5.0 수준의 성능이 나오려나?
아마 v4.2나 4.5쯤 되면 잉그램 그래디언트 수정 기능이 들어갈지도? 수정하자면, flash 모델이 748B q4-8 파라미터나 되니까 내 생각보다 훨씬 더 크네.
