M5 vs DGX Spark vs Strix Halo vs RTX 6000 비교
핵심 요약
M5 맥북, DGX Spark, Strix Halo, RTX 6000의 로컬 AI 성능을 벤치마크한 결과 공유.
- 메모리 대역폭 — RTX 6000이 압도적이며, M5 맥북이 DGX Spark보다 2배 이상 높은 대역폭을 보여줌.
- 발열 관리 — M5 맥북은 장시간 구동 시 80도대를 유지하지만, 고부하 작업 시 소음은 일반 게이밍 노트북 수준임.
- 벤치마크 데이터 — 하드웨어별 토큰 처리 속도와 성능 데이터를 깃허브 저장소에 공개함.
- 실제 성능 체감 — M5 맥북은 항공모함처럼 튼튼하고 성능도 좋지만, AI 작업 시에는 확실히 팬 소음이 발생함.
다들 안녕, 아주 간단한 이야기야. 최근 새로운 M5 맥, DGX Spark, Strix Halo, 그리고 전용 GPU 등을 두고 온라인에서 논쟁이 많았지.
그래서 내가 이 기기들을 전부 한 방에 모아두고 전력과 쿨링 환경을 갖춘 뒤, 지난 3일간 표준화된 테스트를 병렬로 돌려봤어. 결과는 전부 저장소에 올려뒀고.
헤드라인 수치나 기본 사양을 생각하면 딱히 놀랄 일은 아니야. RTX 6000의 메모리 대역폭은 약 1,800GB/s인데, M5는 약 600GB/s, Spark와 Strix는 약 256GB/s 수준이거든. 하드웨어별 초당 토큰 처리량도 그 수학적 곡선을 거의 그대로 따라가.
가격대를 고려하고 생태계에 구애받지 않는다면, 풀옵션 M5는 정말 괜찮은 물건이고 DGX Spark를 확실하게 압도해. 이것도 메모리 대역폭을 보면 놀랄 일은 아니지(총 통합 메모리는 같지만 M5의 대역폭이 2배 이상 높으니까).
두 번째로 언급할 점은, 아마 예상했겠지만 EVO X2는 장시간 구동 시 발열 문제가 있었어. 맥북은 오히려 발열을 얼마나 잘 버티는지 보고 놀랐는데, 며칠 동안 돌려도 80도대에서 안정적으로 유지되더라고. 다만, 열이 오르면 일반 게이밍 노트북이랑 똑같은 소리가 나. 이 기기들이 '조용하다'고 말하는 건 좀 과장된 면이 있어.
M5 맥북 프로로 로컬 AI를 돌리면 다른 노트북들처럼 헤어드라이어 소리가 나. 항공모함처럼 튼튼하게 만들어졌고 성능도 훌륭하지만, 작업 중이라는 건 확실히 알 수 있을 거야 ㅋㅋ
이제 백엔드를 바꿔가며 Mac의 MLX나 Strix Halo의 호스팅 백엔드 등이 성능과 결과물에 어떤 영향을 주는지 데이터를 추가할 예정이야. RTX 6000이 RTX 5090과 같다는 건 아니니 딴지는 걸지 말아줘. 하지만 5090 PC와 다른 기기들을 고민하는 사람들에게는 참고가 될 만한 유사점들이 꽤 있을 거야.
어쨌든 저장소 링크 첨부했으니, 앞으로의 토론과 논쟁에 필요한 원시 데이터와 수치로 활용되길 바라:
https://github.com/Light-Heart-Labs/MMBT-Messy-Model-Bench-Tests/tree/main/hardware-tests
