이제 GLM-Air에서 MTP를 사용할 수 있습니다

MTP가 추가된 거 보기 좋네요. 모델이 새 거든 옛날 거든 상관없죠. 중요한 건 더 나은 지원이니까요.

106B MoE인데 활성 파라미터는 12B밖에 안 돼서 메모리는 많은데 연산 성능이 부족한 기기들한테는 흥미로운 선택지임. 덧붙이자면, 적어도 내 경험상 GLM Air는 그 특유의 '작은 MoE 모델'스러운 불안정한 느낌이 거의 없는 아주 드문 모델 중 하나임. 잘 구축된 RAG를 연결한 작은 모델 같은 느낌이랄까. 지금까지 써본 것 중에는 이거랑 Gemma 4 26b 정도만 그런 느낌이 안 들었음. 그냥 '좋은 모델'처럼 느껴지는 모델들임, '...한 좋은 모델'이 아니라.

수고하셨습니다!

GLM 4.7 Flash도 MTP 헤드가 있는 걸로 기억하는데요. 아직 지원할 계획은 없나요?

재미와 학습을 위해 GLM 4.7 Flash에 MTP를 구현해 둔 적이 있어요 :) 얼마 전에 병합됐죠. 제 허깅페이스에서 GGUF도 다운로드할 수 있어요.

아쉽게도 GLM 4.6V는 MTP가 없네요.

GLM 4.5 Air는 진짜 보석임. 코드나 툴 호출뿐만 아니라 어떤 작업이든 다 해내는 진정한 범용 모델임. 글쓰기, 농담, 가르치기, 번역, 채우기, 제어까지 다 되고, 무엇보다 아는 게 진짜 많음. 200B 미만 로컬 모델 중에서는 지식 수준이 최고임(정답률 75~80%). 사람들이 말했듯이 단순히 파라미터만 좋은 모델이 아니라, 완성도 높고 다재다능해서 계속 쓰고 싶어지는 모델임. 아쉽게도 t…