AMD to release slottable GPU
AMD의 PCIe 기반 Instinct GPU 발표에 로컬 LLM 사용자들은 높은 가격대를 우려하며 회의적인 반응을 보임.
우리 같은 로컬 LLM 사용자들에게 또 다른 선택지가 될지도 모르겠네요. 가격이 정말 궁금합니다.
대부분의 사용자는 성능은 기대되지만, 기업용 타겟의 높은 가격대로 인해 일반적인 로컬 LLM 환경에서 사용하기엔 현실성이 낮다고 평가함.
가격이 3만 달러 정도로 예상되는데, 이 정도면 로컬 환경이라 부르기엔 무리가 있음.
여기 6000 Pro 4개씩 돌리는 사람들도 많은데, 다들 차 한 대 값을 PC에 쏟아붓는 게 놀라울 따름임.
긍정적인 면은, 그런 GPU들은 새 고급차보다 감가상각이 훨씬 느리다는 거지.
맞는 말이네 ㅋㅋㅋ 생각도 못 했네. 그래도 일단 감가상각 시작되면 바닥까지 곤두박질치긴 하지.
암호화폐 거품 꺼지고 나서 GPU 가격이 폭락했던 기억은 별로 없는데. 좀 내려가긴 했어도 매물들이 워낙 험하게 굴려진 거라. 그냥 3090 살 명분 찾으려고 희망 회로 돌리는 걸지도.
Blackwell 살 돈은 있으면서 정작 '이제 무슨 모델 돌리지?'라고 묻는 사람들이 너무 많음. 돈이 실력을 보장하진 않지.
부제목이 틀렸네. 테라플롭스가 아니라 4.6 페타플롭스임 ㅋㅋㅋ
페타(PETA)? 비건임?
몰라 걔한테 물어봐
H200 PCIe보다 비싸게 책정할 리는 없음. 내 생각엔 2만 달러는 넘겠지만 가격 안정화되면 2만 5천 달러 미만일 듯.
이제 GPU 가격이 '안정화'된다는 말을 믿을 수 있는지 모르겠음. 그냥 매주 두더지 잡기 하는 기분이라 :(
HBM3라니 나랑은 상관없네. 가난한 자들을 위한 GDDR이 최고지.
높은 가격을 해결하는 방법은 높은 가격뿐이지. 다들 그 수익을 나눠 먹고 싶어 하니까. AMD랑 인텔이 지금보다 더 진전이 없는 게 놀라울 따름임.
HBM3e가 생산 비용을 좌지우지할 거라 가격도 그럴 거야. 3.6~4.0TB/s 대역폭은 멋지지만, 현재로선 2만 5천~3만 달러 아래로 나올 리가 없음.
우린 지금 전자제품을 다루는 방식이 완전히 바뀌는 과도기에 있음. 지금은 가격이 안 잡히지만, NPU가 범용화되면 다시 안정될 거임. 칩 수요는 엄청나게 늘었는데 공장 짓는 건 10년 넘게 걸리니까.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
Google이 예고 없이 AI Plus 요금제에서 Pro 모델 접근 권한을 제거하여 사용자들의 불만이 폭주하고 있습니다.
Google이 예고 없이 AI Plus 요금제에서 Pro 모델 접근 권한을 제거하여 사용자들의 불만이 폭주하고 있습니다.
Anthropic의 모델이 그동안 과도하게 사용하던 em dash(—)를 줄이는 등 세밀한 개선을 이뤄낸 것에 대한 사용자들의 긍정적인 반응입니다.
Anthropic의 모델이 그동안 과도하게 사용하던 em dash(—)를 줄이는 등 세밀한 개선을 이뤄낸 것에 대한 사용자들의 긍정적인 반응입니다.