ggml-org/llama.cpp의 Pull Request #30520: frozenblade1224의 Nemotron Super 3.5 VL 및 Nemotron Bolt 74B A9B 지원 추가

DFlash2로의 적응을 위한 지원을 추가하는 https://github.com/ggml-org/llama.cpp/pull/30506도 있음

드디어 NVIDIA에서 쓸만한 모델이 나온 건가? 74B 버전은 Q3/Q2 양자화에 최적화된 QAT 학습을 거쳤다고 어디서 본 것 같음

그래, Q2를 위한 QAT라. 이 모델의 그 부분이 어떻게 나올지 정말 궁금하네(즉, Q2가 Q4나 Q8 모델과 비교해서 어떤지 말이야). 다들 Q4로 많이 쓰는 거 보면, Qwen 35B-A3B나 Gemma 26B-A4B랑 경쟁하려고 포지셔닝하는 것 같아.