Spark X2.6 4B는 동급 모델 중 최고임

어제 복잡한 파이썬 프로젝트에 써봤는데, 내가 따로 설명해주지 않아도 순환 참조 문제를 알아서 파악하더라.

ㅇㅇ 우리 웹사이트용 관리자 챗봇 툴 호출기로 배포하는 중임.

오 데스크탑 웹에서는 이미지가 잘 보이네. mlx_vlm.chat에서 --enable-thinking만 켜고 간단히 테스트해봤는데 생각만 하다가 멈춘 느낌임. fp8 양자화 문제인가? 아니면 파라미터 설정이 꼭 필요한 건가? 아니면 mlx_vlm 버그인가? 더 이상은 안 해봤음.

좋긴 한데, 비전 기능이 없다는 게 단점임..

내 쪽에서는 너무 생각을 많이 안 하게 만드는 게 어렵네.

모델은 좋은데 컨텍스트 크기 대비 KV 캐시 크기 때문에 범용적으로 채택되지는 못하고 있음(어텐션 구조 때문에 상대적으로 큰 편인데, 아마 이게 모델 성능을 좋게 만드는 특징 중 하나일 거임). 그리고 내가 알기로는 KV 캐시 양자화가 이 모델에서 치명적인 결함이 아니라는 합의가 아직 없음. 제작자들도 이게 가장 큰 단점이라는 걸 알고 다음 모델 배치에서 집중할 거라고 하니 지켜보는 중임(근데 아마 그때쯤이면 Qwen4가 시장을 지배하고 있겠지).

음 이미지가 안 보이네, 이 폰 웹 UI에서는 이미지를 붙여넣을 수 없는 듯. 아무튼 아무 질문이나 던져봤는데 생각만 하다가 멈춘 느낌이었음.

동의함. 특히 CoT는 대부분의 작업에서 20~30B 모델 같은 느낌을 줄 정도로 엄청남.