r/LocalLLaMA•약 1개월 전•348•152논쟁
200GB VRAM 달성이 꿈이다
The dream is to reach 200GB VRAM
핵심 요약
200GB VRAM을 구축하기 위한 하드웨어 업그레이드 계획과 그에 따른 GPU 시장 전망에 대한 토론.
- 하드웨어 계획 — 4개의 GPU를 조합해 총 200GB VRAM을 확보하려는 구체적인 단계별 전략을 제시함.
- 가격 논쟁 — GPU 가격이 하락할 것인지, 아니면 엔비디아의 독점으로 계속 상승할 것인지에 대해 의견이 갈림.
- 현실적 조언 — 5년 뒤 더 좋은 성능의 카드를 기다리는 것이 낫다는 의견과 가격 하락은 없을 것이라는 비관론이 대립함.
1단계) 몇 달 뒤에 20k까지 오르기 전에 최대한 빨리 16k부터 구한다.
2단계) RTX PRO 6000 (MAXQ) 산다.
3단계) pcie_1 슬롯에 있는 RTX PRO 5000 빼고 그 자리에 RTX PRO 6000 꽂는다.
4단계) NVME to PCIE 컨버터랑 HPPLEX 500W 사서 RTX PRO 5000을 거기로 옮긴다.
5단계) 1300W PSU ATX 3.1에 맞게 RTX PRO 6000, RTX 5090, RTX PRO 4000 전력 제한 건다.
4 GPUS
RTX PRO 6000 (MAXQ) (96GB) gen5 x8
RTX 5090 (32GB) gen5 x8
RTX PRO 5000 (48GB) gen4 x4
RTX PRO 4000 (24GB) gen4 x4
=200GB VRAM !!!
1단계는 어떻게 끝내냐??
