r/LocalLLaMA•4개월 전•147•35
Gemma 4 Unified 출시 임박
Gemma 4 Unified is coming
핵심 요약
llama.cpp 코드에서 비전 기능이 통합된 것으로 보이는 새로운 'Gemma 4 Unified' 모델 아키텍처가 발견되었습니다.
- 코드 발견 — llama.cpp PR에서 'Gemma 4 Unified'라는 새로운 모델 타입이 확인됨
- 아키텍처 변화 — 별도의 비전 타워 없이 비전과 텍스트가 통합된 구조로 추정됨
- 모델 규모 — vLLM PR을 통해 12B 파라미터 모델임이 유출됨
- 커뮤니티 반응 — 새로운 아키텍처에 대한 기대감과 기존 Gemma 4의 평가를 두고 의견이 나뉨
https://github.com/ggml-org/llama.cpp/pull/24077 (방금 머지됨)에 설명이나 힌트가 없지만, 코드를 보면 새로운 "Gemma 4 Unified" 모델 타입이 구현되어 있음...
llama.cpp 개발자들이 모델 출시와 동시에 지원할 수 있도록 미리 접근 권한을 받은 것으로 보임.
코드에 있는 몇몇 주석이 흥미로움: "이것은 트랜스포머가 없는 비전 타워이며, 아래 파라미터들은 중복되지만 오류를 피하기 위해 설정됨"... 구글이 준비 중인 이 아키텍처가 무엇인지 매우 궁금함.
