Intel Arc Pro B70 32GB ($1,299) vs NVIDIA RTX 5090 ($6,500+) Qwen3.8-27B 벤치마크: 최적화 후 1/5 가격으로 절반 성능 달성
Intel Arc Pro B70 32GB ($1,299) vs NVIDIA RTX 5090 ($6,500+) on Qwen3.8-27B: about 1/2 speed gen (1/3 speed prefill) for 1/5 price, after best setup
핵심 요약
Intel Arc Pro B70을 활용해 고가의 RTX 5090 대비 가성비 높은 로컬 LLM 구동 환경을 구축하는 방법과 성능을 공유합니다.
- 가성비 대안 — RTX 5090 대비 1/5 가격으로 32GB VRAM 확보 가능
- 최적화 필수 — 커널 업데이트, Mesa 드라이버, SYCL 기반 llama.cpp 사용으로 성능 극대화
- 성능 비교 — 5090 대비 생성 속도 절반, 프롬프트 처리 속도 1/3 수준 달성
- 가격 급등 — 최근 Intel Arc GPU 가격이 수요 증가로 인해 가파르게 상승 중
지난주에 아마존 ASRock 공식 스토어에서 Arc Pro B70(32GB)을 1,299달러 주고 샀다. (B65도 32GB긴 한데 속도가 더 느리고 가격도 1,199달러로 100달러밖에 차이가 안 나서 그냥 "질러버렸다".) 당연히 VRAM 용량 같고 성능 제일 좋은 5090을 사고 싶었지만, 지금 뉴에그에서 5090이 6,500달러가 넘어가니까(게다가 난 중고 하드웨어 사는 건 무서워서 못 함) 32GB짜리 인텔 카드가 어디까지 따라오나 궁금해서 사본 거다. 처음 뜯었을 땐 진짜 개판이었는데, 몇 가지 설정 만져주니까 5090 성능의 절반 정도는 나오더라. 가격은 5분의 1 수준(GB당 약 41달러 vs 200달러 이상)이니까 이 정도면 훌륭한 타협점이지. 물론 LLM 말고도 렌더링이나 시뮬레이션 같은 다른 작업용으로도 아주 좋고.
혹시라도 돈 아끼면서 NVIDIA 말고 다른 하드웨어 써보고 싶은 사람들한테 도움 될까 싶어서 글 쓴다. 말 안 해도 알겠지만, 난 인텔이나 ASRock이랑 아무런 관계도 없다. 하하.
Qwen3.8-27B Q6, ~3k 토큰 프롬프트, MTP 켬:
| Arc Pro B70 | RTX 5090 |
|---|---|
| Price | $1,299 |
| Prompt processing | ~960 tok/s |
| Generation | ~52 tok/s |
그러니까 가격은 5배인데 성능은 대략 생성 속도 2배, 프리필 속도 3배 정도 나오는 셈이다. 만약 5090을 정가인 1,999달러에 구할 수 있는 능력자라면 축하한다. 근데 그러면 당연히 가성비 좋은 인텔 카드는 살 이유가 없겠지. 5090 수치는 내가 직접 테스트한 게 아니라 허깅페이스 토론 게시판에서 다른 사람들이 올린 거 가져온 거다. 난 NVIDIA에 제물로 바칠 돈이 없거든. 헣.
내 사양: Threadripper 1950X(5년 전쯤 회사 폐업할 때 버리는 거 100달러 주고 주워옴), 128GB DDR4(이번 주에 B70이랑 같이 새로 맞춤, DDR4가 DDR5보다 가격이 절반도 안 됨), 구형 x399m Taichi PCIe 3.0 메인보드(아쉽게도 GPU의 PCIe 5 지원은 못 쓰지만, 모델이 VRAM에 올라가면 별 상관없음. MoE 모델 쓸 때만 좀 손해 보는 정도), Ubuntu headless/server 24.04. 스크린샷은 통계(내비게이션이랑 채팅 사이) 보여주려고 내 노트북에서 찍은 건데, 홈 오피스에 있는 인텔 GPU 달린 본체에서 llama-server로 Qwen 모델 돌린 거다.
!["Does censorship exist in [country]?", according to various LLMs](https://cf.preview.redd.it/does-censorship-exist-in-country-according-to-various-llms-v0-knnfwsmaje0i1.png?width=1080&crop=smart&auto=webp&s=b635757eb86e6d73129000b5f6ebcf4612b04044)
