r/LocalLLaMA•4개월 전•204•324
Qwen 3.6(27B 및 35B-A3B) 구동을 위한 최저가 하드웨어 구성
Cheapest hardware for Qwen 3.6: both 27B and 35B-A3B
핵심 요약
Qwen 모델 구동을 위해 RTX 3090 기반 시스템을 고려 중인 작성자에게 파워 서플라이 위험성과 GPU 대안에 대한 조언이 이어짐.
- 파워 서플라이 위험성 — 저가형 파워 서플라이 사용 시 시스템 전체가 손상될 수 있다는 경고가 많음.
- GPU 대안 논의 — RTX 3090 대신 9060XT나 9070 듀얼 구성을 추천하는 의견이 제시됨.
- VRAM 부족 우려 — 3090 단일 카드로는 모델의 퀀타이제이션과 컨텍스트 길이를 충분히 확보하기 어렵다는 지적.
- 가성비 하드웨어 — 중고 시장의 3080 20GB 모델이 현재 가성비 측면에서 가장 뛰어나다는 의견.
Qwen 3.6/3.5 27b > Qwen 3.6/3.5 35b > Gemma4 31b > Qwen 3.5 9b > Gemma4 12b > Gemma4 26b 순으로 사람들이 말하곤 함.
코딩 및 에이전트 작업에는 Qwen 3.6, 사람 같은 텍스트 생성에는 Gemma4가 좋다는 의견이 많음.
그래서 RTX 3090 24GB(혹은 가끔 더 저렴한 중국산 RTX 3080 20GB)와 논란이 많은 Tesla v100 32GB를 눈여겨보고 있음.
목표: Qwen 3.6 모델들에서 40 tok/s 달성.
RTX 3090 24GB가 더 밝은 미래를 가진 것 같음. (1) v100 32GB(PCIe 및 SXM2 모두)는 곧 지원이 종료될 예정이고, (2) 중국에서 2026년 말~2027년 중반 사이에 Mythos/Fable에 준하는 모델을 출시할 예정이기 때문.
알리바바에서 RTX 3090 1개 시스템을 2000달러에 판매 중인데, 나중에 듀얼 3090으로 업그레이드 가능함.
더 저렴한 방법이 있을까?
| Component | Model | Price |
|--------------|--------------------------------|-----------|
| CPU | Ryzen 5 5600X | $132.25 |
| GPU | MSI RTX 3090 VENTUS 3X 24G | $1,088.15 |
| Motherboard | ASUS TUF X570-PLUS | $108.81 |
| RAM | Kingston FURY Beast 32GB DDR4 | $251.11 |
| SSD | Kingston NV3 1TB NVMe | $131.41 |
| PSU | Great Wall 1650W 80+ Gold | $130.41 |
| Cooler | Valkyrie AQ125 ARGB | $14.90 |
| Case | Phanteks PK620 Full Tower | $120.54 |
| Fans | ARGB 120mm ×12 | $18.06 |
| **TOTAL** | | **$1,995.65** |
