r/LocalLLaMA•약 2개월 전•178•70
Qwen 3.8 기대하는 사람 또 있음?
Anyone else amped up over Qwen 3.8?
핵심 요약
Qwen 3.8 모델 출시에 대한 기대감과 로컬 LLM의 미래에 대해 토론하는 포스트입니다.
- 로컬 LLM 활용 — 개인 기기에서 모델을 구동해 구독료를 절감함
- Qwen 3.8 기대 — 3.6 버전 대비 성능 향상에 대한 높은 관심
- 현실적인 기대치 — 과도한 기대보다는 차분한 접근이 필요함
- 모델 성능 평가 — Qwen 시리즈가 오픈 소스 LLM 중 최고라는 평가
3.6 27B Q4를 사용 중인데, M5에서 그 양자화 모델은 꽤 빠름. 코드는 평범한 수준이지만 꾸준히 '충분히 좋은' 성능을 보여줌. 1년 정도 지나면 음악 스트리밍 서비스가 도입된 것처럼 로컬 LLM도 집에서 서비스되는 시대가 올 거라고 봄. 간단한 브라우저 확장 프로그램만 있으면 모든 질문이 내 LLM을 먼저 거치게 될 테니, 모든 기기에 요금을 부과하려는 '지능 서비스 요금제' 같은 걸 우회할 수 있겠지. 사양함. 처음 시작할 때부터 Anthropic 구독을 유지하고 있긴 하지만, 예전만큼 효율이 좋진 않음. 프론티어 모델들이 계속 우리를 보조해 줄 수는 없으니까. 그래서 3.8 dense 27B가 나오면 어떤 성능을 보여줄지 정말 기대됨. 요즘은 뭐든 즉각적인 만족을 원하니까, 나도 지금 당장 써보고 싶음. lol
