DGX Spark and Overtemps
DGX Spark 사용 중 여름철 과열로 인한 멈춤 현상을 해결하기 위한 언더클럭 명령어 공유.
DGX-Spark를 가지고 있고 이번처럼 아주 더운 여름철에 문제를 겪고 있는 사람들을 위해, 다음 명령어로 언더클럭을 할 수 있음:
sudo nvidia-smi -lgc 0,900
내 온도는 85C에서 60C로 떨어졌고, 이 방법으로 과열로 인한 멈춤 문제를 해결했음.
Edit: 그래, 팬이 존재한다는 건 나도 알고 있음
DGX-Spark의 발열 문제 해결법에 대한 정보 공유와 온도 제한에 관한 사용자들의 의견이 오가고 있습니다.
아니면 저렴한 120mm 팬을 하나 갖다 대는 것도 방법임
아주 좋네. 언더클럭은 마법 같을 때가 많지. 혹시 이 명령어가 Jetson Thor에서도 먹힐지 알아?
아니면 Asus ascent는? 내 생각엔 같은 OS 쓸 것 같은데.
하드웨어랑 OS 둘 다 같음, 맞음
ASUS Ascent는 언더클럭 필요 없을걸. llama.cpp CUDA로 하루 8시간씩 돌리는데 70도 넘은 적이 없음. 표면 온도랑 배기 열기가 거의 GPU 온도랑 비슷함. 쿨링 진짜 지리네.
좋은 정보 감사합니다! 하나 살까 고민 중인데 가격 좀 떨어지길 기다리는 중이에요.
개쉽네
굿. 그럼 토큰 성능은 얼마나 떨어짐? u/Simusid
'llama-bench -m ./gemma-4-31B-it-qat-UD-Q4_K_XL.gguf --mmap 0 --threads 10 -fa 1 -ngl 999' 사용 (최적 설정인지는 확실치 않음)
'sudo nvidia-smi -lgc 0,900': 455 t/s 프롬프트 처리, 9.8 t/s 토큰 생성
기본값: 890 t/s pp, 12.6 t/s tg
최근 업데이트 이후로 온도가 높긴 한데 멈추지는 않더라고(4개짜리 Spark 클러스터로 파인튜닝 중임). 이거 해보고는 싶은데 지금 홈랩에서 서버실로 옮기는 중이라서, 전기세가 장난 아니거든!
85도면 뭐가 문제임? 난 하드웨어 전부 정격 온도 제한인 90~95도까지 돌리는데 아무 문제 없음.
학습을 계속 돌리다 보면 결국 멈춰버리거든
그냥 외부 팬 설치해.
고마워!
학습 작업은 얼마나 걸려?
미국 기업들이 비용 절감과 데이터 보안을 이유로 비싼 프론티어 AI 모델 대신 오픈 소스 모델로 눈을 돌리고 있음.
미국 기업들이 비용 절감과 데이터 보안을 이유로 비싼 프론티어 AI 모델 대신 오픈 소스 모델로 눈을 돌리고 있음.
Claude Sonnet 5.5는 이전 세대보다 30% 더 빠르고 저렴하며, 향상된 코딩 및 문서 작업 능력을 갖췄습니다.
Claude Sonnet 5.5는 이전 세대보다 30% 더 빠르고 저렴하며, 향상된 코딩 및 문서 작업 능력을 갖췄습니다.
AI를 활용한 '바이브 코딩(vibecoding)'이 소프트웨어 산업과 SaaS 시장에 미칠 영향에 대한 논의입니다.
AI를 활용한 '바이브 코딩(vibecoding)'이 소프트웨어 산업과 SaaS 시장에 미칠 영향에 대한 논의입니다.