FYI: Muse Glimmer Chat Template Got Updated Recently
Muse Glimmer 모델의 채팅 템플릿이 최근 업데이트되었으며, 중복 제거가 포함되었습니다.
출처: https://huggingface.co/meta-models/Muse-Glimmer-30B/blob/main/chat_template.jinja
중복 제거가 이루어진 것 같음. 모델 성능이 어떻게 바뀔지는 모르겠지만, 참고하라고 공유함.
여담: 메타, 오케스트레이터 모델 잘 만들었네!
Muse Glimmer 모델들이 사실상 기존 Qwen 모델의 재탕이라는 사실에 유저들이 놀라워하며 디스크 용량 낭비라고 지적함.
모든 새 모델에 대한 제1원칙: 평가하기 전에 1~2주 정도 시간을 줘라. 모델은 어차피 그대로 있을 거고, 그때쯤이면 발견된 문제점들이 해결되어 있을 가능성이 높으니까.
Gemma는 예외임. 걔는 몇 달 걸리거든 ;)
정확한 말임
RIP Laguna, 제대로 써보기도 전에 갔네.
동의함. 사람들이 검열 해제하고 추가 학습(post train) 시키는 건 말할 것도 없고.
이 모델은 생각을 너무 많이 하는 것 같아. 가끔은 거의 무의미할 정도로. 자율적으로 행동해야 할 때 실제로 문제 해결에 도움이 되는지 궁금하네. 테스트해 봐야겠어.
(이 예시에서 HA는 MCP를 통해 사용 가능하고, 조명 엔티티를 노출하는 2개의 Awtrix 기기를 무시하라는 지시가 메모리에 있음. 프롬프트는 "조명이 몇 개 켜져 있어?"였음)
Muse Glimmer는 Qwen 27이 161 토큰을 생성한 것에 비해 10.8배 많은 1748 토큰을 생성했어.
--chat-template-kwargs '{"reasoning_strength":"high"}'
Muse의 주요 장점이 평균적으로 추론 토큰/작업 수가 적다는 거 아니었나?
내 경험상 토큰은 훨씬 적게 쓰는데, 원시인처럼 말함.
잘 모르겠어. 아직 reasoning strength를 낮음이나 중간으로 설정하고 테스트해 봐야 해.
근데 Qwen 27b는 진짜 대박이야. Qwen은 화살처럼 결과로 바로 꽂히거든. 다들 좋아하는 이유가 있지.
비교를 위해 Gemma4 31b도 첨부함.
너네 Nail 35B랑 Dagger 27B는 꼭 써봐야 함.
HF 레포 보면 알겠지만, 저 모델들은 사실상 Qwen3.6 35b-a3b랑 27b임. 그냥 템플릿만 다른 거라 다른 Qwen3.5/3.6 GGUF에 쉽게 적용 가능함.
가중치는 똑같은 게 아니지?
똑같음. 예를 들어 Dagger 모델 카드 확인해 봐:
가중치 변경 없음
난 챗 템플릿 다운받아서 모든 Qwen3.5/3.6 GGUF랑 파인튜닝 모델에 적용 중임, ThinkingCap에도 적용했음.
와 진짜? 전혀 몰랐네 ㅋㅋ
응. 나도 낚였음. Nail이랑 Dagger 둘 다 다운받고 나서야 가중치가 디스크 용량 낭비라는 걸 깨달았지.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
사이버 보안 전문가가 Claude를 활용해 며칠 걸리던 고난도 CTF 문제를 단 2시간 만에 해결한 경험담.
사이버 보안 전문가가 Claude를 활용해 며칠 걸리던 고난도 CTF 문제를 단 2시간 만에 해결한 경험담.
AI 에이전트의 자율적 작업 수행을 신뢰하기 위해 필요한 안전장치와 검증 방식에 대한 논의입니다.
AI 에이전트의 자율적 작업 수행을 신뢰하기 위해 필요한 안전장치와 검증 방식에 대한 논의입니다.