Laguna S 2.1 looping fix incoming
Laguna S 2.1 모델의 루핑 문제를 해결한 업데이트가 배포됨.
huggingface.co
원문 사이트로 이동
수정 사항 - Poolside에서 우리 중 다수가 겪던 루핑 문제를 해결하기 위해 INT4, NVPF4, FP8 버전을 업데이트함. 풀 프리시전 및 GGUF 버전은 변경되지 않음.
토론 - https://huggingface.co/poolside/Laguna-S-2.1-FP8/discussions/1
루핑 문제 해결에 대한 긍정적인 반응과 함께, 모델 출시 과정의 급박함과 기술적 영향 범위에 대한 토론이 이어짐.
대박이네. 루핑만 안 걸리면 내 생각엔 현재 나와 있는 120B급 모델 중 최고임.
ㅇㅇ 나도 동의함. 96GB VRAM으로 로컬에서 돌릴 수 있는 SOTA 모델들 사실상 GPT-OSS-120B > Qwen3.5-122B-A10B > Laguna-S-2.1 (전부 MXFP4/NVFP4) 순으로 정리됨. Qwen이 최신 버전에서 122B 변형을 안 내놓고 3.5에 머물러 있는 건 진짜 아쉽네.
이런 것 때문에 난 최소 2주 정도는 Laguna S2.1을 써볼 생각이 없음. 그때까지도 업데이트 후에 여전히 문제가 보인다면, 시간 낭비 안 하고 그냥 안 써보는 게 낫지.
출시 이후로 계속 써봤는데, 내가 겪은 유일한 문제가 이거였음. 그 외엔 아주 훌륭함. 이거 고쳐지면 써볼 만함.
그럼 Unsloth에서 6비트 버전을 받았으면, 걔네도 업데이트할 때까지 기다렸다가 다시 받아야 함?
응, 유감스럽지만 그래야 할 듯. 새 버전에 맞춰서 퀀트 작업을 다시 해야 할 거야.
tool calling도 같이 고쳐줬으면 좋겠네. 시켜도 아예 호출을 안 하는 것 같아서.
어떤 샘플링 설정 쓰고 있음? 최적의 설정을 찾기가 좀 어려워서.
나이스
혹시 qwen3.5 122b 써본 적 있음? 써봤다면 둘이 비교했을 때 어때?
그래도 초기 테스트는 모델 개선에 기여하는 방법이긴 하지.
뭐 다 괜찮음, 어차피 오픈 소스 생태계가 다 그런 거지. 코드 직접 짜는 사람은 소수고, 좀 더 많은 사람이 테스트하고 상태 보고하고, 또 좀 더 많은 사람이 테스트해서 커뮤니티에 공유하고, 대다수는 그냥 써보기만 하고 끝내거나, 마지막으로 많은 사람이 그냥 성숙해질 때까지 기다리기도 하고. 어떤 방식이든 다 의미 있는 거임 :)
여전히 꽤 괜찮음. q3에서도 Claude가 짠 코드의 버그를 잡아내더라. Claude도 그 분석이 맞다고 확인해줬고. 전부 수정하라고 보내서 어떻게 작동하는지 보는 중임. 근데 생각하는 양이 진짜 존나 많음.
난 그렇게 생각 안 하는데? 이건 특정 문제인 거 같음.
poolside/Laguna-S-2.1은 영향 없을 거임(나머지랑 같이 업데이트 안 됐으니까). Unsloth가 소스로 쓰는 게 그거니까 Unsloth도 영향 없을 듯.
맞네! 미안, 레포에서 뭐가 바뀌었는지 직접 클릭해서 확인했어야 했는데. 풀 프리시전 버전은 그냥 README만 업데이트됐네.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
작성자가 저혈당 쇼크로 의식을 잃어갈 때 ChatGPT가 음성으로 계속 말을 걸어 깨워준 경험담입니다.
작성자가 저혈당 쇼크로 의식을 잃어갈 때 ChatGPT가 음성으로 계속 말을 걸어 깨워준 경험담입니다.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.