r/LocalLLaMA•약 6시간 전•34•28

KVARK Sparkle 1.0 출시 – Qwen3.8-27B 기반, 사고 토큰 최대 67% 절감

We released KVARK Sparkle 1.0 – a Qwen3.8-27B-based model with up to 67% fewer thinking tokens

핵심 요약

추론 효율을 높여 사고 토큰 사용량을 대폭 줄이고 응답 속도를 개선한 Qwen 기반 모델 KVARK Sparkle 1.0이 공개되었습니다.

사고 토큰 최적화 — 추론 모델의 불필요한 사고 과정을 줄여 응답 속도를 2배가량 개선함
성능 유지 — 5개 주요 벤치마크에서 원본 Qwen 모델과 대등한 정확도를 기록함
오픈 웨이트 공개 — Apache 2.0 라이선스로 Hugging Face를 통해 배포됨
다양한 포맷 지원 — BF16, FP8, GGUF 포맷으로 llama.cpp, vLLM 등에서 구동 가능함

다들 안녕!

우리는 Egzakta AI Lab이고, 나는 KVARK를 만든 팀원 중 한 명이야. 드디어 우리 첫 오픈 웨이트 모델인 **KVARK Sparkle 1.0 (27B)**을 공개했어.

이 모델은 Qwen3.8-27B를 기반으로 만들었고, 추론 효율을 높이는 데 집중했어. 생각하는 토큰(thinking tokens)은 줄이고, 응답 속도는 높이면서 답변 퀄리티는 그대로 유지하는 게 핵심이야. 생각해보면 추론 모델들이 굳이 그렇게까지 깊게 생각할 필요 없는 문제에도 토큰을 너무 많이 낭비하잖아? 우리는 성능 저하 없이 이런 오버헤드를 얼마나 줄일 수 있을지 궁금했어. 생각하는 토큰이 줄어들면 답변당 GPU 사용 시간도 짧아지고 기다리는 시간도 줄어드니까 말이야.

Sparkle이 원본 Qwen3.8-27B랑 비교해서 어떤지 보여줄게:

중앙값 응답 속도 약 2배 향상: 13.7초 vs 28.1초.
생각하는 토큰 최대 67% 감소.
비슷한 수준의 정확도: GPQA Diamond, AIME, LiveCodeBench, IFEval, MMLU-Pro 등 5개 표준 벤치마크 기준.
테스트 결과, 정확도 차이는 통계적으로 유의미하지 않았음.

실제 작업 환경에서 비교한 결과도 있어:

대시보드 생성: 1.6배 빠름.
랜딩 페이지 생성: 1.4배 빠름.
자전거 타는 펠리컨 SVG 일러스트 생성: 3.2배 빠름.

KVARK Sparkle 1.0은 Hugging Face에서 확인할 수 있어: https://huggingface.co/Egzakta/Kvark-Sparkle-1.0-27B

로컬에서 돌려보고 싶은 사람들을 위한 기술적인 세부 사항이야:

Apache 2.0 라이선스로 오픈 웨이트 공개.

원문

커뮤니티 목록