미래의 AI 장비를 위해 돈을 아끼고 투자하세요
Save and invest your money for future rigs
핵심 요약
지금 무리해서 장비를 사기보다 2~3년 뒤 더 고성능 하드웨어를 기다리는 게 낫다는 의견.
- 하드웨어 가격 상승 — 고성능 AI 장비 구축 비용이 급등하면서 구매 계획에 차질이 생김.
- 메모리 기술 발전 — 9200MHz DDR5 등 고속 메모리 보급으로 향후 로컬 AI 성능이 비약적으로 향상될 전망.
- 장기적 관점 — 지금 당장 무리하기보다 2~3년 뒤 더 나은 가성비의 시스템을 구축하는 것이 현명함.
- 공급망 회의론 — 반도체 생산 시설 구축에는 수년이 걸리므로 3년 내에 공급 문제가 해결될지 미지수임.
오랫동안 시스템을 구축하고 싶어 몸이 근질거렸어. 올해 1TB 제노아(Genoa)를 맞출 계획이었는데, 6,000달러면 될 줄 알았던 게 이제 30,000달러짜리 일이 되어버렸네. 그래서 맥 M5 스튜디오 울트라를 기다렸는데, 애플도 공급 부족에 시달리는지 Q1에서 Q2, 이제는 Q3로 출시를 미뤘어. 그사이 RTX 블랙웰 프로 6000 가격은 계속 오르고 있고. 도대체 어떻게 해야 할까?
그러다 좋은 소식을 봤어. 중국 RAM 제조사들이 더 많이 시장에 진입하고 있더라고 - https://wccftech.com/another-chinese-dram-maker-breaks-into-ddr5-memory-mass-producing-64gb-rdimms/
이제 9200MHz DDR5도 나왔어 - https://wccftech.com/micron-doubles-down-on-ai-memory-256-gb-ddr5-rdimms-hitting-9200-mtps/
12채널 제노아에 9200MHz 메모리를 꽂는다고 상상해봐. 그게 무슨 뜻일까? 몇 년 뒤면 12000MHz 메모리에 16채널 시스템을 갖게 될 거야. 그런 시스템은 토큰 생성에서 5090을 압살할걸? 프리필(prefill)용으로 싼 GPU 하나만 던져주면 돼. 그러니까 돈 아끼고, 지금 있는 걸로 버티면서 2~3년만 기다려. 그럼 모아둔 돈으로 끝내주는 시스템을 맞출 수 있을 거야.
수요가 계속 유지되면 공급이 따라와서 필요한 용량을 채워줄 거고, 수요가 줄어들면 공급 과잉이 오겠지. 어느 쪽이든 3년 뒤를 내다보면 충분히 낙관할 이유가 있어.
