r/LocalLLaMA•11일 전•177•91
오픈 프레임 대신 일반 케이스에 GPU 6개 설치하기
Installing 6 GPUs in a standard case rather than using an open-frame chassis.
핵심 요약
일반 타워 케이스에 V100 GPU 6개를 장착한 서버 빌드에 대한 공유와 반응입니다.
- GPU 서버 빌드 — 일반 타워 케이스에 V100 6개를 장착하여 서버를 구축함
- 가성비 V100 — 16GB V100 모델이 현재 가격대에서 매우 훌륭한 선택지로 평가됨
- 발열 및 전력 — 140W 제한으로 발열은 관리 가능하며 겨울철 난방기 역할도 가능함
- 모델 구동 — Qwen3.8-Next-Flash 등 고성능 AI 모델 구동을 목표로 함
CPU : epyc 7262
MB : ROMED8-2T
GPU : V100 16GB PCIE x6
V100 GPU 6개 박아서 서버 하나 조립했다. 지금 테스트 중이고, 나중에 Qwen3.8-Next-Flash를 TP2, PP3 설정으로 돌려볼 생각임.
오픈 프레임이나 서버용 케이스는 덩치만 크고 볼품없어서, 그냥 풀타워 케이스에 카드 6개 다 때려 박았다.
