지난 72시간 동안 4개의 대형 오픈 웨이트 모델이 공개됐지만, 24GB VRAM에 맞는 건 엔비디아 모델뿐이네.
72 hours, four big open weights drops. The only one that fits in 24GB came from NVIDIA, of all companies.
핵심 요약
최근 쏟아지는 대형 모델들이 일반적인 24GB VRAM 환경을 외면하는 가운데, 엔비디아의 행보가 주목받고 있습니다.
- 모델 공개 러시 — 며칠 사이 메타, 엔비디아, 리플렉션, 딥시크가 대형 모델을 잇달아 출시함
- 하드웨어 장벽 — 대부분의 모델이 일반 소비자용 24GB VRAM을 초과하는 고사양을 요구함
- 엔비디아의 전략 — 24GB 환경을 타겟팅한 Nemotron 3.5 Bolt를 출시하며 실용성을 강조함
- 라이선스 논란 — 모델의 '오픈' 여부와 상업적 이용 가능 범위를 두고 커뮤니티 내 의견이 갈림
진짜 정신없는 한 주였다. 공식 저장소랑 모델 카드에 올라온 숫자들로 빠르게 요약 들어간다.
목요일: 메타가 Muse Spark Open을 던졌다. 총 816B, 활성 42B, 컨텍스트 1M짜리다. 출시 글에는 에이전트 AI를 "당신의 데스크탑으로" 가져온다고 써놨더라. 근데 그 데스크탑이라는 게 512GB짜리 M5 Ultra Mac Studio 두 대다. 애플 말로는 "10월 말"에 나온다는데 가격도 아직 안 정해짐. 아니면 256GB짜리 Studio 네 대를 써야 하는데, 대충 3만 8천 달러 깨진다. 게다가 라이선스도 가관임. "Built with Muse Spark Open"이라고 무조건 명시해야 하고, 매출 2천만 달러 넘어가면 따로 계약해야 함. 심지어 메타 지네 모델 카드에서도 Artificial Analysis 인덱스 39위 찍혔는데, GLM 5.3(45위)이나 Kimi K3(44위)보다도 낮음.
같은 날: 엔비디아가 Nemotron 3.5 Bolt를 냈다. 총 74B, 활성 9B, 2비트까지 양자화 인식 학습을 해서 모델 전체가 22GB에 비전 프로젝터 1.7GB 수준이다. 애초에 24GB에 딱 맞게 설계됨. 첫날부터 Unsloth GGUF 지원하고, llama.cpp, Ollama, LM Studio까지 다 돌아간다.
금요일: Reflection이 진짜로 Beam을 출시했다. 총 501B, 활성 23B, Apache 2.0 라이선스라 조건 없음. 제일 작은 공식 체크포인트인 NVFP4가 294GB다.
토요일 오후: DeepSeek가 V4.1 Flash 1017을 X에 그냥 툭 던지듯이 올렸다. MIT 라이선스임. 지네 표 보니까 DeepSWE 점수가 77.0인데 Opus 5가 74.0이더라(벤더 수치니까 적당히 걸러 들어라). 저장소 용량은 510GB다.
그래서 우리 대부분이 쓰는 24GB 라인 기준으로 싹 다 정리해 봤다.
내 생각은 이렇다:
-
이제 "로컬 구동"의 의미가 "자동차보다 비싼 컴퓨터에서 돌아감"으로 공식화됐다.
-
우리한테 24GB 카드 계속 팔아먹는 회사가 이번 주에 유일하게 24GB 카드용 모델을 만든 곳이다. 이게 훈훈한 건지, 아니면 그냥 영업 전략인 건지 모르겠다.
-
이번 주는 파라미터 수보다 라이선스가 훨씬 중요했다. DeepSeek랑 Reflection은 MIT랑 Apache 2.0을 박았는데, "오픈" 마케팅 제일 요란하게 하는 회사는 명시 의무에 매출 조항까지 달아놨네.
-
Mistral이 Large 4 가중치("Le Chonk", 총 1T) 이번 달 말 전에 나온다고 했으니까, 24GB 라인은 이제 더 외로워질 예정이다.
출처는 댓글에 있다.
