r/opencode•약 14시간 전•182•42논쟁

👀 DeepSeek와 양자화에 대하여...

👀 About DeepSeek and quantization...

핵심 요약

DeepSeek 모델의 성능과 양자화 효율성을 두고 사용자들 간의 의견이 엇갈리고 있습니다.

모델 성능 평가 — DeepSeek가 이전 모델보다 훨씬 뛰어나며 효율적이라는 긍정적 평가가 존재함
사용자 태도 논쟁 — 모델 활용 능력 부족을 지적하는 의견과 그에 대한 무례함을 비판하는 의견이 충돌함
과거 사례 비교 — 과거 오픈소스 모델 출시 당시의 기술적 오해와 현재 상황이 유사하다는 분석이 나옴
기술적 질문 — 오픈라우터 등에서 제공하는 FP8 양자화에 대한 실질적인 의문이 제기됨

원문

커뮤니티 목록

r/opencode•약 14시간 전•182•42논쟁

👀 DeepSeek와 양자화에 대하여...

👀 About DeepSeek and quantization...

핵심 요약

DeepSeek 모델의 성능과 양자화 효율성을 두고 사용자들 간의 의견이 엇갈리고 있습니다.

모델 성능 평가 — DeepSeek가 이전 모델보다 훨씬 뛰어나며 효율적이라는 긍정적 평가가 존재함
사용자 태도 논쟁 — 모델 활용 능력 부족을 지적하는 의견과 그에 대한 무례함을 비판하는 의견이 충돌함
과거 사례 비교 — 과거 오픈소스 모델 출시 당시의 기술적 오해와 현재 상황이 유사하다는 분석이 나옴
기술적 질문 — 오픈라우터 등에서 제공하는 FP8 양자화에 대한 실질적인 의문이 제기됨

주요 댓글

r/opencode

DeepSeek의 양자화 방식(FP4 vs FP8)을 두고 모델의 실제 구조와 마케팅적 표현 사이의 차이에 대해 기술적인 논쟁이 벌어지고 있습니다.

GPT 오픈소스 모델 처음 나왔을 때가 생각나네. 사람들이 OpenAI가 쓸모없는 모델을 내놨다고 울고불고 난리였지. 알고 보니 커널이 퓨즈되지 않았고 버그가 있었던 것뿐이었고, 실제로는 당시 어떤 오픈 웨이트 모델보다 훨씬 앞서 있었어. 물론 문제가 없었다는 건 아니지만.

커뮤니티가 베타 테스트하고, 버그 리포팅하고, 디버깅하게 냅두고 OPENai는 돈이나 챙기게 해라.

FP4는 공식 DeepSeek API에서 제공하는 FP8보다 성능이 떨어짐. 보아하니 "dax"는 사람들을 바보로 아는 듯. 그 유명한 "음 음" 거리는 건 우연이 아님. 모델이 너프됐다는 직접적인 증거지.

그냥 지어내는 거 아님? 라우팅된 전문가 모델들은 4비트 정밀도를 사용함: https://docs.nvidia.com/nemo/automodel/nemo-automodel/nemo_automodel/components/models/deepseek_v41/state_dict_adapter

근데 오픈라우터에서 FP8을 제공하는 공급업체가 많지 않나??

맞아, OpenRouter에 있는 FP8 모델들은 풀 웨이트 버전임. 그게 핵심이지 ㅋㅋ 양자화 불만 나오는 건 다 로컬 GGUF에서 200B 넘는 MoE 모델을 24GB에 억지로 구겨 넣고 왜 멍청해졌냐고 묻는 경우들임. 난 4090 쓰는데 그냥 Q4나 Q5 골라서 트레이드오프 감수함. 큰 모델들 FP8로 돌리는 건 나한테는 그냥 API 영역임.

사람들이 똑똑해 보이려고 이해도 못한 채 남들이 하는 말을 앵무새처럼 따라 하기 때문임. 심지어 그게 무슨 뜻인지도 모르는 애들이 태반임.

전문가들은 FP8을 씀

https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017?show_file_info=model.safetensors.index.json

ㅋㅋ 귀엽네

원문r/opencode