r/LocalLLaMA•약 2개월 전•103•28

Llama 4 Behemoth 나오기도 전에 Muse Spark 1.2 오픈소스화!!?

Muse Spark 1.2 Open Source before Llama 4 Behemoth!!?

핵심 요약

Muse Spark 1.2의 오픈소스화 소식과 Llama 4 Behemoth의 출시 지연에 대한 커뮤니티의 반응.

오픈소스화 기대 — Muse Spark 1.2의 오픈소스 공개 소식에 커뮤니티가 들썩임.
Llama 4 지연 — Llama 4 Behemoth 출시가 계속 미뤄지면서 유저들의 불만이 쌓임.
모델 사양 논의 — 30B 모델의 VRAM 요구량과 GPU 최적화에 대한 기술적 토론이 이어짐.

믿을 수가 없네!! Muse Spark 처음 나왔을 때부터 오픈소스화 고려할지도 모른다고 생각했는데. 진짜로 오픈소스화한다니!! Alexandr Wang이 맡은 이후로 Llama 4 Behemoth 빼고는 다 내놓는 것 같네!

다음은 또 뭔데? Llama 4 Behemoth 나오기 전에 Llama 5라도 나오나?

원문

커뮤니티 목록

r/LocalLLaMA•약 2개월 전•103•28

Llama 4 Behemoth 나오기도 전에 Muse Spark 1.2 오픈소스화!!?

Muse Spark 1.2 Open Source before Llama 4 Behemoth!!?

핵심 요약

Muse Spark 1.2의 오픈소스화 소식과 Llama 4 Behemoth의 출시 지연에 대한 커뮤니티의 반응.

오픈소스화 기대 — Muse Spark 1.2의 오픈소스 공개 소식에 커뮤니티가 들썩임.
Llama 4 지연 — Llama 4 Behemoth 출시가 계속 미뤄지면서 유저들의 불만이 쌓임.
모델 사양 논의 — 30B 모델의 VRAM 요구량과 GPU 최적화에 대한 기술적 토론이 이어짐.

다음은 또 뭔데? Llama 4 Behemoth 나오기 전에 Llama 5라도 나오나?

주요 댓글

r/localllama

Llama Behemoth에 대한 회의적인 시각과 함께, 로컬 LLM 환경에서의 효율성과 성능에 대한 사용자들의 기술적 논의가 이어지고 있습니다.

지금 불평할 타이밍은 아닌 것 같은데.

이 모델 출시일이 언제인지, 실제 크기가 어느 정도인지 진짜 궁금함.

1.3 나오고 나서일 듯. 근데 그전에 나오면 메타 진짜 인정한다.

방금 API에 1.2 풀었으니까 1.3이 금방 나올 것 같진 않음. 1.2가 '곧' 나온다는 거면 1.3보다 먼저겠지, 뭐 유레카 모먼트라도 있지 않는 이상.

30B 덴스 모델은 단일 24GB GPU(3090/4090/5090)에 딱임. Q4_K_M 기준으로 가중치가 18~19GB 먹으니까 KV 캐시로 5~6GB 남아서 GQA 쓴 적당한 컨텍스트 윈도우 돌리기 충분함. Q8이나 FP8로 올리려면 듀얼 GPU나 48GB 이상 맥 필요함.

동의함, 오프로딩 없이 내 3090에 올릴 수 있었던 최고의 모델이었음.

-1

100% 동감. 24GB 달린 3090/4090은 가성비 로컬 LLM 세팅에서 여전히 GOAT임. 30B Q4 모델이 컨텍스트 병목 현상 없이 효율성 최고지!

활성 파라미터: 35-45b
전체 파라미터: 450-700b

ㄹㅇ 나도 그럼.

500GB에서 2TB 정도로 예상함.

그냥 추정치가 크다고 말하는 게 500GB에서 2TB짜리 쓰레기보다 낫지.

-3

왜 쓰레기라고 생각함?

500GB에서 2TB라는 추정치는 추정이 아니라 그냥 지어낸 거임.

-3

지능, 속도, 추론 비용을 기반으로 추정할 수 있음.