NVIDIA Cosmos3(64B) INT4 양자화 모델 로컬 구동 (CUDA/MLX)

"SOTA"는 따옴표를 붙여야 할 듯.

모든 NVIDIA 모델이 그렇듯, 이건 개념 증명용이고 우리가 실사용할 수준은 아닌 덜 훈련된 베이스 모델이야. 파인튜닝에 수백만 달러를 투자할 수 있는 소규모 AI 기업들만 이득을 보겠지.

이걸로는 우리가 쓰는 이미지나 비디오 모델을 대체할 수 없어.

Qwen3.5처럼 쓰레기 같은 에이전트 벤치마킹으로 도배된 거랑은 다름. Cosmos3는 학습이 좀 덜 된 느낌이라 나중에 포스트 튜닝하면 잠재력이 엄청날 듯. 총 13억 개 조금 안 되는 데이터 포인트로 학습했다던데, 비교하자면 SDXL은 50억 개(LAION-5B의 이미지-캡션 쌍)로 학습했거든. Circlestone Labs의 Anima 2B가 이미 우리가 진짜 쓰고 싶은 모델로 만들 수 있다는 걸 증명하기도 했고, 뭐...

Cosmos3는 진짜 과소평가됨. 아키텍처 설명을 봐:

텍스트, 이미지, 비디오, 오디오, 동작 궤적을 포함한 멀티모달 입력을 받아, 멀티모달 이해, 세계 시뮬레이션, 미래 예측, 동작 추론 및 물리적 AI 응용을 위한 일관된 텍스트, 이미지, 비디오, 오디오 및 동작 출력을 생성함.

("동작"은 물리적 움직임을 나타내는 벡터 시퀀스를 의미함)

베이스 모델은...

Minimax H3랑 비교한 것도 궁금하네.

H3가 있는데 이게 어떻게 SOTA 이미지 생성 모델이라는 건지 의문이네. 그냥 Grok이나 다른 헛소리들이랑 비교하는 거 진짜 웃김. 테스트 대상이 고작 차(tea)라는 건 말할 것도 없고 🙄