후속 글, RTX PRO 6000 2개 탑재 타워 빌드하기로 결정함.
Follow up post, decided to build the 2x RTX PRO 6000 tower.
핵심 요약
RTX PRO 6000 2개를 장착한 고성능 워크스테이션 빌드 계획과 부품 구성을 공유함.
- 하드웨어 구성 — Threadripper PRO 7965WX와 RTX PRO 6000 2개로 구성된 고성능 워크스테이션 빌드임.
- 냉각 솔루션 — GPU 발열로 인한 CPU 온도 문제를 해결하기 위해 공랭 대신 수랭(AIO) 사용을 권장받음.
- 비용 및 가치 — 고가의 장비지만 감가상각이 적고 자산으로 인정받을 수 있다는 점이 언급됨.
- 운영 팁 — MOE 모델 활용 시 CPU와 시스템 RAM을 활용한 추론 최적화 방법이 공유됨.
두 대의 RTX 6000 타워를 하나로 합치기로 결정했습니다. 부품 목록은 아래와 같으며, 팁을 주시면 감사하겠습니다. 질문도 환영합니다. 시작합니다…
빌드 목록:
플랫폼
• CPU: AMD Threadripper PRO 7965WX
• 메인보드: ASUS Pro WS WRX90E-SAGE SE (WRX90, EEB, 128 PCIe 5.0 레인, 듀얼 10GbE, IPMI)
• RAM: 128GB DDR5-4800 ECC RDIMM — 4× Samsung M321R4GA3BB6-CQK
연산
• 2× NVIDIA RTX PRO 6000 Blackwell (각 96GB GDDR7 ECC)
• 총 192GB VRAM, x16/x16 PCIe 5.0, 카드당 500W 제한
케이스
• Corsair 9000D RGB Airflow (SSI-EEB, 팬 미포함)
전원
• MSI MEG Ai1600T PCIE5 — 1600W 80+ Titanium, 듀얼 네이티브 12V-2x6
• 전용 20A 120V 회로
냉각
• CPU: Noctua NH-U14S TR5-SP6, 듀얼 NF-A15 140mm
• 전면 흡기: 3× iCUE LINK RX140 MAX
• 상단 배기: 3× iCUE LINK RX140 MAX
• 후면 배기: 2× iCUE LINK RX120 RGB
스토리지
• Samsung 9100 PRO 8TB w/heatsink — PCIe 5.0 x4, 14,800 MB/s (OS, 모델, 스택)
• 2TB SSD (스크래치 — Qdrant, 데이터셋, 임베딩)
네트워킹
• 듀얼 10GbE 온보드 (Intel X710)
