Intel b60 48gb?
48GB VRAM이라는 매력적인 용량에도 불구하고, CUDA 생태계의 부재와 소프트웨어 지원 부족으로 고민하는 사용자들의 반응.
48GB 카드에 2,000 호주 달러라니, 계속 머릿속에서 떠나질 않네. 근데 이 서브레딧에 인텔 카드 관련 정보가 너무 없어. 3개월 전 글에는 사지 말라고 되어 있는데, 이 바닥에서 3개월이면 강산이 변할 시간이지. 진짜 그렇게 구린가? 내 쪼끄만 3060보다 추론 성능이 안 좋을 리가 없잖아?
Intel B60 48GB의 성능에 대한 기대와 함께, 중고 카드 사용의 수명 문제 및 신제품 구매에 대한 다양한 의견이 오가고 있습니다.
몇 주 전에 Scorptec에서 신형 B70 사려고 장바구니에 담아뒀다가 결국 안 샀음. CUDA 쓰는 게 너무 많아서...
B70이랑 AI PRO 9700 사이에서 고민 중인데 뭘 골라야 할지 진짜 모르겠네
인텔이 소프트웨어 스택을 업데이트하면서 B70이 더 나아질 때까지 기다릴 의향이 있다면 B70을 사. 그게 아니라면 300달러 더 주고 r9700 사는 게 낫다. AMD 카드는 지금 당장도 꽤 괜찮게 돌아가거든. B70은 지금 당장은 거의 모든 단계에서 문제를 일으킬 거고, 어떻게든 작동하게 만든다 해도 성능은 그저 그럴 거야.
OpenVINO 2026.2 버전부터 Qwen3.5/3.6이랑 Gemma-4 지원할 거임. 릴리즈될 때까지 기다리거나 직접 소스 빌드하면 됨. OpenArc 쓰고 싶으면 내가 빌드해둔 Docker 이미지 포크도 있는데, 여기엔 미리 빌드된 소스랑 최신 IGC, ICR, L0 패키지 다 포함돼 있음. 어느 정도가 좋은 성능인지는 모르겠는데 난 꽤 괜찮은 속도 뽑고 있음. B70 Pro에서 Q3.6-35B 모델 int4로 돌릴 때 표준 pp512/tg128 기준으로 prefill 3K t/s, decode 60 t/s 나오더라.
몇 달 전에 R9700 샀는데 아주 만족함. 램이 96GB였으면 더 좋았겠지만, 그래도 안정적이고 괜찮은 모델들 적당한 퀀트 버전으로 돌리기엔 충분함.
b70 벤치마크 찾아봐라. 하드웨어 스펙(608 GB/s 메모리)이 암시하는 것보다 훨씬 성능 안 나옴. b70 하나가 5060 Ti 16gb 두 개(OC해서 500 GB/s까지 가능)보다 빠른 경우는 거의 없음. 220달러 하던 게 500달러까지 올라서 말도 안 되는 가격인 mi50 32gb보다도 나은지 의문임.
난 그냥 3090 두 개 샀음
새 제품 구할 수만 있다면 그렇게 하겠는데, 중고 카드가 얼마나 더 버틸지 모르겠네.
잘 고르면 아주 오래 쓸 수 있어 :)
쉿. 누군가는 새 제품도 사줘야지 ;)
9700 쓰고 있는데 아주 만족함. unsloth 4-bit 양자화 중 가장 큰 qwen 3.6:27B 모델을 최대 컨텍스트로 돌리는 중임. 딱 하나 불만인 건 컨텍스트 윈도우에 토큰이 5만 개 넘어가면 프롬프트 처리 속도가 꽤 느려진다는 건데, 이건 전용 데이터센터 GPU나 AI 가속기 쓰는 거 아니면 어쩔 수 없는 부분인 듯. 그 외에는 당연히 CUDA는 아니지만, ROCm이 지원이나 성능 면에서 인텔 SYCL보다 훨씬 앞서 있는 건 맞음.
작은 인텔 카드 쓰고 있는데, 딱히 추천은 못 하겠음. 그렇다고 엄청 구린 건 아님. 제 성능 내려면 OpenVINO 써야 하는데, 이게 업데이트도 느리고 llama + gguf에 비해 기능이 많이 부족함. Llamacpp SYCL도 있긴 한데 하드웨어 활용을 제대로 못 해서 소프트웨어 병목 때문에 비싼 돈 주고 살 이유가 없음. SYCL 개발도 느리고. 인텔은 이걸 AI 카드라고 팔지만 사실...
이거 제대로 된 48GB 카드도 아니고, 슬롯 하나만 써도 멀티 GPU 골칫거리를 감당해야 해. 게다가 나중에 카드 하나 더 추가하면 4x4 연결 두 개만 남게 되지. AI 용도 외에는 딱히 성능도 별로고. 딱 맞는 사이즈의 특정 모델을 돌려야 하는 상황이라면 모를까, 아니면 그냥 R9700이나 중고 3090을 찾아봐. 적어도 R9700은 llama.cpp나 vllm, ComfyUI 모델 지원도 괜찮고 게임용으로도 쓸만하니까...
48GB B60은 x16 슬롯을 2개의 x8로 나누는 GPU 2개라는 점을 명심해. 메모리 풀이 통합된 게 아니니까 주의하고, 메인보드가 bifurcation을 지원하는지 꼭 확인해야 해. 첫 번째 x16 슬롯을 나누면 메인보드의 두 번째 슬롯을 못 쓸 수도 있어.
XE 드라이버랑 OpenVINO 쓰면 결과 죽여줄 거임. Battlemage 칩은 5060ti랑 성능 비슷하거나 어떤 경우엔 더 낫기도 함. 근데 이거 듀얼 헤드 GPU라는 점은 명심해. 테스트 결과 본 적이 없어서 안정성은 장담 못 하겠다.
미국 기업들이 비용 절감과 데이터 보안을 이유로 비싼 프론티어 AI 모델 대신 오픈 소스 모델로 눈을 돌리고 있음.
미국 기업들이 비용 절감과 데이터 보안을 이유로 비싼 프론티어 AI 모델 대신 오픈 소스 모델로 눈을 돌리고 있음.
Anthropic의 신모델들이 벤치마크를 휩쓸면서 OpenAI의 시장 지배력이 흔들리고 있다는 커뮤니티의 반응.
Anthropic의 신모델들이 벤치마크를 휩쓸면서 OpenAI의 시장 지배력이 흔들리고 있다는 커뮤니티의 반응.
AI 에이전트들이 담배를 피우며 여유를 부리는 영상에 대한 유머러스한 반응과 원작에 대한 고찰이 이어짐.
AI 에이전트들이 담배를 피우며 여유를 부리는 영상에 대한 유머러스한 반응과 원작에 대한 고찰이 이어짐.