r/LocalLLaMA•약 2시간 전•337•88
35달러에 54GB VRAM 득템
54gb vram for 35$
핵심 요약
35달러에 P106 6GB GPU 9개를 확보하여 로컬 LLM 구동 환경을 구축한 사례입니다.
- 채굴기 득템 — 35달러에 P106 6GB GPU 9개 확보함.
- 소프트웨어 최적화 — Ollama 대신 llama.cpp나 vLLM 사용이 권장됨.
- 하드웨어 업그레이드 — CPU와 RAM 보강을 위해 케이스 이전 및 GPU 추가 계획 중.
- 로컬 LLM — 54GB VRAM으로 다양한 모델 구동 가능함.
아비토(러시아판 이베이)에서 어떤 놈한테 채굴기 팜 하나 업어왔다. 이 새끼가 몇 년 전에 차고를 하나 샀는데, 거기 채굴기가 그대로 박혀 있었나 봄. 작동하는지도 모르겠다고 5000루블(약 60달러)에 올렸길래 3000루블(약 35달러)까지 후려쳐서 깎았다.
까보니까 p106 6gb(gtx 1060 6gb) 그래픽카드 9개나 박혀 있더라. VRAM만 총 54gb임. 다 정상 작동하고 SSD만 없길래 USB로 부팅해 봤는데 아주 잘 돌아간다. 개꿀.
