XHToken/Spark-X2.6-4B · 허깅페이스
XHToken/Spark-X2.6-4B · Hugging Face
핵심 요약
4B 파라미터로 9B 모델을 능가하는 성능을 보여주는 온디바이스용 경량 언어 모델 Spark-X2.6-4B가 공개되었습니다.
- 성능 향상 — 4B 모델임에도 9B 모델과 대등하거나 뛰어난 코딩 및 추론 능력 제공
- 생각 예산 조절 — 없음, 낮음, 높음의 3단계 설정으로 추론 품질과 비용을 동적 제어 가능
- 온디바이스 최적화 — 모바일 기기 등에서 실사용 가능한 효율적인 로컬 추론 성능
- 실제 활용성 — 복잡한 도구 사용과 다단계 계획 수립 등 에이전트 워크플로우에 최적화
huggingface.co
원문 사이트로 이동
https://huggingface.co/XHToken/Spark-X2.6-4B-GGUF
소개
Spark-X2.5가 나온 지 한 달 조금 넘었네. AI 에이전트 판이 워낙 빠르게 돌아가다 보니, 이 정도 시간이면 다시 생각하고 다듬어서 한 단계 더 나아가기에 충분한 시간이지. Spark-X2.5-4B를 기반으로, 온디바이스 배포용 소형 범용 언어 모델의 최신 버전인 Spark-X2.6-4B를 공개한다.
Spark-X2.6-4B는 Spark-X2.5-4B와 아키텍처가 완전히 똑같아. 대신 사후 학습(post-training)을 개선해서 성능을 끌어올렸지. 코딩, 에이전트, 긴 문맥 처리, 다국어, 추론 등 여러 방면에서 확실히 좋아졌다. 덕분에 개발자나 사용자들이 실무에서 온디바이스 AI를 훨씬 더 쓸만하게 활용할 수 있을 거야.
기술적 특징:
-
더 강력해진 코딩, 에이전트, 긴 문맥 처리 능력: 복잡한 도구 사용, 다단계 계획 수립, 소프트웨어 엔지니어링 같은 에이전트 워크플로우에서 성능이 대폭 향상됐어. 비슷한 크기의 오픈소스 모델들 중에서는 단연 최고 수준이고, 파라미터 9B급 모델들과 비비거나 오히려 앞서는 성능을 보여준다.
-
조절 가능한 사고 예산(Thinking Budget): 없음(none), 낮음(low), 높음(high) 이렇게 세 가지 사고 수준을 설정할 수 있어. 덕분에 추론 품질, 지연 시간, 추론 비용 사이에서 상황에 맞게 유연하게 균형을 잡을 수 있지.
"GPU 거지"라는 핑계는 이제 그만. 게으름 피우지 말고 지금 당장 작은 모델들 돌려봐라.
