r/LocalLLaMA•29일 전•43•51
그냥 '할 수 있으니까' 하는 거지. X870e의 한계
When you say, because I can. Limits of X870e
핵심 요약
X870e 보드에 여러 개의 GPU를 장착한 괴물 같은 PC 빌드와 그 과정에서 겪는 RAM 안정성 문제를 공유함.
- PC 빌드 — GPU 여러 개를 장착한 괴물 같은 시스템 구축함.
- RAM 안정성 — DDR5 램 4개 장착 시 발생하는 부팅 및 안정성 문제 겪는 중.
- 하드웨어 구성 — M2 to PCIe 어댑터와 eGPU 독을 활용해 확장성 확보함.
- 성능 테스트 — Unsloth Studio에서 GLM-5.3-Flash 모델로 초당 20토큰 생성 확인.
제목 그대로임. 어느 순간부터 성능 개선은 개나 줘버리고 그냥 '이게 되나?' 싶어서 해본 거임.
그래서 내 괴물 같은 결과물 좀 봐라. GLM-5.3-Flash를 IQ3_XXS로 돌리니까 Unsloth Studio에서 대충 20t/s 나오더라.
이제 2x48GB DDR5 램 키트 두 개만 제대로 인식시키면 되는데, 이놈의 컴퓨터가 서로 다른 2x48GB 키트 두 개를 꽂으니까 도저히 안정화가 안 됨.
아무튼 여기 포럼 진짜 마음에 든다. 아이디어도 많고 재밌음. 이제 이 짓거리 하느라 쓴 돈 메꾸러 야근하러 간다.
