r/LocalLLaMA•1일 전•225•37논쟁

Eagle-4 출시: DFlash2 및 DSpark보다 빠름

Eagle-4 Released: Faster than DFlash2 & DSpark

핵심 요약

기존 모델 대비 압도적인 속도를 자랑하는 Eagle-4가 공개되어 커뮤니티의 관심을 받고 있습니다.

성능 향상 — 기존 DFlash2 대비 3.59배 빠른 추론 속도 기록함
모델 지원 — 현재 Qwen3.8-27B 모델만 지원하며 추후 확장 예정
벤치마크 의문 — 작업 유형별 상세 성능 분석이 필요하다는 의견 제기됨
VRAM 제약 — 기존 모델 대비 늘어난 용량으로 인해 하드웨어 사양 고려 필요

github.com

원문 사이트로 이동

미친 수치네. 아직 Qwen3.8-27B만 지원되는데 와, 진짜 결과물 죽여준다. llama.cpp나 vLLM에 적용되면 눈여겨봐야겠어.

### Qwen 3.8 27B 벤치마크 결과

Method	Speedup over Vanilla
MTP	2.22×
DSpark	2.57×
DFlash 2	2.80×
EAGLE-4	3.59×

원문

커뮤니티 목록

r/LocalLLaMA•1일 전•225•37논쟁

Eagle-4 출시: DFlash2 및 DSpark보다 빠름

Eagle-4 Released: Faster than DFlash2 & DSpark

핵심 요약

기존 모델 대비 압도적인 속도를 자랑하는 Eagle-4가 공개되어 커뮤니티의 관심을 받고 있습니다.

성능 향상 — 기존 DFlash2 대비 3.59배 빠른 추론 속도 기록함
모델 지원 — 현재 Qwen3.8-27B 모델만 지원하며 추후 확장 예정
벤치마크 의문 — 작업 유형별 상세 성능 분석이 필요하다는 의견 제기됨
VRAM 제약 — 기존 모델 대비 늘어난 용량으로 인해 하드웨어 사양 고려 필요

github.com

원문 사이트로 이동

미친 수치네. 아직 Qwen3.8-27B만 지원되는데 와, 진짜 결과물 죽여준다. llama.cpp나 vLLM에 적용되면 눈여겨봐야겠어.

### Qwen 3.8 27B 벤치마크 결과

Method	Speedup over Vanilla
MTP	2.22×
DSpark	2.57×
DFlash 2	2.80×
EAGLE-4	3.59×

주요 댓글

r/localllama

Eagle-4의 벤치마크 성능은 뛰어나지만, 실제 사용 시의 불안정성, 높은 VRAM 요구량, 그리고 라이선스 제한으로 인해 사용자들의 반응이 다소 회의적임.

Eagle의 열렬한 팬이지만, dflash나 dspark 모델이 전체를 대표한다고 생각하진 않음. 그냥 평균치일 뿐임. 예를 들어 MTP는 코드나 JSON 같은 구조화된 출력에서 더 나은 성능을 보임. 작업 유형별로 가속 성능이 어떻게 다른지 상세 분석을 보고 싶음.

나도 dflash2를 돌려봤는데, 코드 같은 구조화된 출력에서는 dflash2가 훨씬 결과가 좋았음.

맞음, 코드나 비슷한 구조화된 출력에서는 5~6배 정도 속도가 나온다고 읽었음. 그래서 작업 유형별로 Eagle-4 벤치마크가 어떻게 나오는지 궁금한 거임.

-1

구조화된 출력이 너무 짧음. 토큰 몇 개만 지나도 모델이 그냥 뻗어버리는 걸 여러 번 봤음. 리더보드 점수 올리려고 억지로 쥐어짠 게 너무 티 남. dspark랑 mtp는 최소한 깊이 상관없이 일관성이라도 있지, 각각 장단점이 있음.

수치 미쳤네. 아직 Qwen3.8-27B만 지원되긴 하지만 와, 수치 진짜 좋다. llama.cpp나 vLLM에 적용되면 유심히 지켜봐야겠음.

워크로드 유형별 평균은 여기서 좀 까다로운 문제임. json 같은 건 결정론적 실행이 길어서 속도 향상 수치를 불균형하게 뻥튀기하거든.

꽤 인상적이긴 한데, 이 드래프트 모델이 dflash2보다 3기가바이트나 더 큼. 아쉽게도 난 못 쓰겠네 ㅋㅋ 이미 내 설정에서 VRAM을 다 써버려서.

3.85 GB (DFlash 2); 6.18 GB (Eagle 4); 크기가 1.6배네. 내 설정에서 돌려볼 수 있을지도 모르겠는데, 좀 빠듯하겠다.

이런 연구가 나오는 거 보니 기쁘네. LiLiCorr(nemotron bolt에서 사용하는 거)도 현재 선두를 달리는 spec decoder 중 하나인데, 궁금한 사람들은 논문 보면 벤치마크가 훨씬 더 자세하게 나와 있음 https://arxiv.org/pdf/2608.20530

이거 HyperQwen이랑 비교하면 어떨지 궁금하네. https://github.com/syv-ai/HyperQwen 아니면 HyperQwen이 이걸 통합할 수 있을까?

24GB GPU에는 안 들어갈 듯. 이 draft 모델이 DSpark2보다 2.5GB 더 무거운데, DSpark2도 이미 꽤 빡빡하거든. 난 hyperqwen을 매일 쓰는데, 그냥 MTP FP8 설정으로 계속 갈 듯. 내 작업 환경에선 이게 미친 듯이 빠름.

Swift 1.5 Qwen 3.8 27B + Eagle-4 + Strata = ???

strata가 작동하는 이유는 MoE 측면에서 전문가 관리(expert management)를 최적화했기 때문임. dense 모델로는 할 수 있는 게 별로 없음.

출처: 학위 논문에서 MoE 최적화 연구했고 지금은 추론(inference) 분야에서 일함.

Spec decoding 연구가 더 활발해지는 걸 보니 좋네!

하지만 이 수치들은 큰 의미가 없어:

보통 MTP나 DFlash조차도 컨텍스트 크기, 병렬 요청 수, 그리고 당연히 코딩 작업 종류에 따라 속도 향상 폭이 엄청나게 달라지거든. 그리고 우리한테 특히 중요한 건, 얘네들마다 추가로 필요한 VRAM 양이 다 다르다는 거야. 그래서 결국 자기 상황에 맞춰서 골라야 해.

나한테는 (club-3090 유저임) 아직 Qwen3.8-27B+MTP를 이길 만한 게 없더라, 진짜 이것저것 다 써봤는데도 말이야!

원문r/LocalLLaMA