https://huggingface.co/poolside/Laguna-S-2.1-NVFP4
Laguna-S-2.1-NVFP4 모델이 업데이트되었으며, 가중치 변경으로 인해 이전 버전을 다운로드한 경우 재다운로드가 필요합니다.
업데이트 릴리즈 (2026년 8월). 이것은 이전 버전의 저장소를 대체하는 새로운 체크포인트입니다. 설정뿐만 아니라 가중치도 변경되었으므로, 이전에 복사본을 다운로드하셨다면 현재 체크포인트를 받기 위해 다시 다운로드해 주시기 바랍니다.
사용자들은 모델의 추론 능력 개선에는 긍정적이나, 가중치 변경으로 인한 VRAM 요구량 증가와 DeepSeek, KAT-Coder 등 경쟁 모델 대비 성능 우위에 대해 의견이 갈리고 있습니다.
NVFP4 가중치를 업데이트하면서 텐서 용량이 10GB 정도 늘어났는데 여전히 NVFP4라고 부르네... 이제 RTX Pro 6000에서는 안 돌아가서 DGX Spark 사용자들은 좋겠네(아마 컨텍스트 윈도우 제한이 있겠지만?).
초기 시도들이 충분히 안정적이지 않았나 봐. 결국 모델을 꽤 많이 비양자화해서 작동하게 만든 것 같아. 카드 두 장에 올릴 수는 있겠지만, 그럴 바엔 DSv4-Flash가 훨씬 더 매력적으로 보이네.
또 눈속임이네. 그냥 양자화 줄여놓고 더 잘 되길 바라는 거잖아.
X에서 RTX Pro 6000 한 장으로 전체 컨텍스트를 돌릴 수 있다는 헤드라인 보고 엄청 좋아했는데. 슬프네.
수정: 나중에 더 나은 압축 방식이 나와서 가중치가 업데이트될 가능성은 없을까? 루핑 이슈 피하려고 임시로 이렇게 한 거 아닐까?
야, 모델이 주장하는 만큼 성능만 좋다면 10번을 망쳐도 상관없어.
방금 다운받아서 써보고 있는데 'max thinker' 스타일 모델로는 아주 훌륭해. Qwen 쓰다가 자꾸 실패하면 이걸로 바꾸는데, 10분 동안 엄청나게 고민하더니 결국 답을 찾아내더라고. 속도도 엄청 빨라서 좋아. 사이즈도 딱 좋고, 20-100B 모델이 더 많이 필요해.
수정: 가끔 툴 콜이나 탭 처리할 때 힘들어하긴 함.
수정 2: 생각 바뀜. KAT-Coder가 더 낫고 빠르고 램도 덜 먹음.
듀얼 DGX Spark 사용자인데, 새로 나온 DeepSeek flash랑 비교해서 쓸만한 가치가 있을까?
아니, 애초에 같은 급도 아님.
4번째 시도면 성공하겠지 😎 ... 한번 써봐야겠다.
변경 사항이 있으면 버전을 올리는 게 맞지 않나?
내 생각엔 이건 NVFP4 가중치만 바뀐 거고 비양자화 가중치는 그대로라서 S-2.1인 것 같아. 근데 양자화 공식은 확실히 달라졌어.
https://huggingface.co/poolside/Laguna-S-2.1/tree/main <-- 여기서 보면 비양자화 가중치는 초기 릴리즈랑 똑같은 걸 볼 수 있어.
근데 기본 가중치는 똑같아 보여서, 직접 양자화했으면 바뀐 게 없는 것 같아. Unsloth가 어떻게 처리했는지는 잘 모르겠네.
자기네 모델이 망하는 거(그리고 회사까지 같이 망하는 거) 막으려고 몇 시간마다 새 스레드 올리는 중임.
헤헤 다들 알려줘...
DeepSeek가 훨씬 나아. 듀얼 Spark라면 vLLM + DSpark 조합으로 가는 게 속도도 더 잘 나와.
같은 모델이야. 40-47 레이어(~15%)가 이제 비양자화 상태임: https://huggingface.co/poolside/Laguna-S-2.1-NVFP4/blob/main/config.json#L291 . 그게 '주요' 변경점이야.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.