CUDA: llama.cpp의 MMQ에서 MoE 게이트/업 행렬 곱셈과 GLU 융합 PR

핵심 요약

llama.cpp의 새로운 CUDA 최적화 PR로 MoE 모델의 프롬프트 처리 속도가 최대 17% 향상되었습니다.

• 성능 최적화 — MoE 모델의 게이트 및 업 행렬 곱셈과 GLU 연산을 융합함
• 속도 향상 — Qwen 모델 테스트 결과 프롬프트 처리 속도가 5~17% 개선됨
• 하드웨어 지원 — RTX 5090 및 DGX Spark 환경에서 유의미한 성능 이득 확인