r/LocalLLaMA•약 3시간 전•21•40
중고 부품으로 컴퓨터를 맞추는 게 가치가 있을까?
is it worth to dumpsterdive?
핵심 요약
LLM 구동을 위한 중고 하드웨어 구성 가능 여부와 가성비 조합에 대한 질문과 조언들입니다.
- GPU 혼합 구성 — llama.cpp 등을 사용하면 서로 다른 모델의 GPU를 섞어서 사용하는 것이 가능함
- 중고 부품 활용 — DDR4 서버급 하드웨어나 중고 엔터프라이즈 서버를 활용하는 것이 가성비 면에서 유리함
- DDR3/DDR4/DDR5 — DDR3는 사실상 쓸모없고, DDR4는 가성비 용도로, DDR5는 고사양 작업 시 고려할 만함
- 하드웨어 조언 — 예산이 부족하다면 중고 서버 부품을 활용해 VRAM을 확보하는 것이 최선의 전략임
다들 안녕, qwen4 나올 때가 다 돼서 이제 하드웨어에 좀 투자해볼까 생각 중이야.
서브레딧 눈팅하면서 배운 바로는 VRAM은 무조건 다다익선이라며?
중고 장터 뒤져서 GPU랑 RAM 좀 사 모을 계획인데, 몇 가지 조언 좀 구하고 싶어.
GPU 여러 개 섞어서 '프랑켄슈타인'처럼 조립해도 돼? 예를 들어 RTX 3070이랑 RTX 4070, RTX 5080을 한 본체에 다 꽂는 식으로 말이야.
DDR3는 이제 쓰레기지? DDR4는 살 가치가 있을까, 아니면 그냥 DDR5만 노려야 할까? 가격 좀 내려가긴 할까?
내가 사는 곳(중유럽)은 RTX 5090 구하기가 하늘의 별 따기거든. 만약 deepseek flash v4 돌리는 게 목표라면, 중고 부품 긁어모아서라도 돌릴 수 있는 구성이 있을까? 적당한 t/s 속도로 말이야. 150t/s 가능할까?
글이 좀 성의 없어서 미안. 새 부품으로 조립하는 건 할 줄 아는데, 중고 부품 이것저것 섞어서 한 대 만드는 건 본 적이 없어서 그래. 이거 현실성 있는 방법이야? 너네 중에 이렇게 쓰는 사람 있어? 중고로 산 부품은 뭐야?
