r/LocalLLaMA•약 2개월 전•1322•282

DeepSeek-V4-Flash-0731: 이제 로컬에서 돌리는 모델도 2026년 3월 최고 성능 모델 수준의 지능 점수를 가짐

DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026

핵심 요약

로컬 구동 모델의 성능이 5개월 전 최상위 모델을 따라잡았다는 소식에 하드웨어 업그레이드를 고민하는 사용자들.

성능 도약 — 로컬 모델이 5개월 전 최상위 모델 수준의 지능 점수를 기록함
하드웨어 요구사항 — 8천 달러 미만 예산의 시스템에서 구동 가능한 수준임
사용자 반응 — 성능 향상에 고무되어 하드웨어 지름신을 느끼는 분위기
업그레이드 고민 — 새로운 모델 구동을 위해 하드웨어 추가 구매를 고려 중임

2026년 3월 6일, 최상위 모델의 지능 지수 점수는 51점이었습니다. deepseek-ai/DeepSeek-V4-Flash-0731은 50점의 지능 점수를 기록했습니다. 이 벤치마크가 정확하다면, 8천 달러 미만(미국 가격 기준, 대략적인 추정치)의 하드웨어에서 로컬로 구동 가능한 모델들이 5개월 전 최상위 모델들과 거의 동일한 지능 점수를 갖게 된 셈입니다.

이건 진짜 미쳤네요. 방금 충동적으로 DDR4 128GB를 질렀습니다. 4x 5060 ti(총 64GB VRAM)와 조합해서 돌려보려고요.

원문

커뮤니티 목록

r/LocalLLaMA•약 2개월 전•1322•282

DeepSeek-V4-Flash-0731: 이제 로컬에서 돌리는 모델도 2026년 3월 최고 성능 모델 수준의 지능 점수를 가짐

DeepSeek-V4-Flash-0731: Models you can run locally now have the intelligence score of the top frontier model from March 2026

핵심 요약

로컬 구동 모델의 성능이 5개월 전 최상위 모델을 따라잡았다는 소식에 하드웨어 업그레이드를 고민하는 사용자들.

성능 도약 — 로컬 모델이 5개월 전 최상위 모델 수준의 지능 점수를 기록함
하드웨어 요구사항 — 8천 달러 미만 예산의 시스템에서 구동 가능한 수준임
사용자 반응 — 성능 향상에 고무되어 하드웨어 지름신을 느끼는 분위기
업그레이드 고민 — 새로운 모델 구동을 위해 하드웨어 추가 구매를 고려 중임

이건 진짜 미쳤네요. 방금 충동적으로 DDR4 128GB를 질렀습니다. 4x 5060 ti(총 64GB VRAM)와 조합해서 돌려보려고요.

주요 댓글

r/localllama

로컬 LLM 성능이 프런티어 모델 수준에 근접했다는 소식에 하드웨어 업그레이드를 고민하는 사용자들과 모델의 실제 성능에 대해 토론하는 분위기입니다.

359

당신의 지갑을 위해 기도와 위로를 보냅니다.

105

나: > 이번 주 내 월급 절반을 어디에 꼴아박을지 고민하며 r/LocalLLaMA 눈팅 중.

글쓴이 4천 유로 월급 자랑하네

허깅페이스에 올라온 모델은 167GB짜리 4-bit QAT 모델임. 192GB DDR4 램이랑 그거 지원하는 메인보드(레노버 P520, 델 프리시전 7820 등)에 3090 하나만 있으면 됨. 램 800달러, 구형 워크스테이션 300달러, GPU 1000달러 해서 총 2000달러 정도면 10 tokens/sec 속도로 모델 돌릴 수 있음.

그 사양으로 직접 돌려봄?

아니. 투모로우랜드 끝나고 아직 유럽 여행 중임.

나도 128GB 램에 3090 2장 있는데도 이거 직접 돌릴 생각 하니까 좀 망설여지네. 뭐, 그냥 궁금해서라도 한번 시도는 해봐야겠지. 당연히 다운로드는 받을 거지만, 이미 Openrouter에서 하루 종일 써봤는데 1달러도 안 썼고 속도도 150tok/s 넘게 나오거든.

내 예상: 다운받아서 좀 만져보다가 속도 때문에 짜증 나서 다시 Openrouter로 돌아갈 듯 T-T

로컬에서는 보통 Qwen3.6-27B나 Ornith-1.0 Q8 버전을 돌리는 중.

형, 이거 돌리려고 셋업 3개나 맞췄어. 2x5090, 5090+3090, 5090+3090TI 이렇게 있고 다 128GB나 96GB 램 박았음(96GB 2개랑 128GB 1개). 진짜 미친 수준임.

이 모델 MoE임? Colibri 같은 프로젝트처럼 전문가 가중치 스트리밍 가능할까?

맞아. MXFP4 전문가 모델 기준으로 활성화 파라미터가 13B니까 포워드 패스당 가중치가 10~12GB 정도 돼.

그중 일부는 어텐션이나 공유 전문가 모델 같은 건데, 대충 4GB 정도 될 거야(추측이니까 틀리면 알려줘. 세부 사항이 내 핵심 논지를 바꾸진 않으니까). 걔네는 전문가 모델 간에 바뀌지 않으니까 VRAM에 계속 올려둘 수 있어.

그럼 포워드 패스당 가중치는 대략 8GB 정도 남는 셈이지. Naive streaming으로 돌리면 일반적인 환경에서 최고 속도가 초당 1토큰 정도 나올 거야...

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →

Fable, 이 댓글의 아이디어를 생성해 봐. 실수하지 말고.

114

너는 로컬에서 돌릴 수 있을지 몰라도, 나는 한참 멀었네.

모델 50t/s로 돌리려면 어떤 스택이 필요함?