r/LocalLLaMA•약 1개월 전•33•14
V100이나 구형 NVIDIA GPU를 구매하시나요? 이 스크립트로 메모리 결함을 확인하세요
Buying a V100/older NVIDIA GPU? Run this to check for older memory issues
핵심 요약
중고 V100 GPU의 숨겨진 메모리 결함을 InfoROM의 은퇴 페이지 정보를 통해 진단하는 스크립트를 공유합니다.
- 메모리 결함 진단 — InfoROM에 기록된 은퇴 페이지를 확인하여 GPU의 실제 상태를 파악함
- ECC의 함정 — ECC가 비활성화되어 있으면 초기 테스트에서 결함이 숨겨질 수 있음
- eBay 환불 조언 — 30일이 지났더라도 '표시된 상태와 다름'을 근거로 eBay에 직접 이의 제기 가능
- 사용자 검증 — 커뮤니티 사용자들이 스크립트를 실행하여 자신의 GPU 상태를 확인하고 공유함
얼마 전에 이베이에서 32GB V100을 하나 샀는데, 기본적인 테스트 돌려보니까 문제없길래 다 해결된 줄 알았거든. 근데 llama.cpp 돌리니까 VRAM 관련해서 이상한 에러가 뜨기 시작하더라.
Claude한테 물어보니까 ECC가 꺼져 있어서 램 쪽 자잘한 문제들이 숨겨져 있었던 거였음. ECC 에러 카운터 총합도 리셋이 가능하긴 한데, ECC가 켜져 있는 상태에서 램이 맛탱이 가기 시작하면 그 기록이 카드 InfoROM에 타임스탬프랑 같이 남거든.
이 스크립트 돌려보면 리타이어된 페이지(retired pages)가 있는지 확인할 수 있는데, 내 카드 보니까 2019년부터 쌓인 리타이어 페이지가 그대로 나오더라. 내가 가지고 있는 다른 V100(16GB)은 예상대로 0개였고.
아쉽게도 이걸 30일 지나고 나서야 알아버리는 바람에, 900달러짜리 종이 쪼가리 하나 떠안게 됐다. 다음번에 V100 주문하면 설치하자마자 바로 이거 돌려서 누가 쓰다 버린 전자 쓰레기인지 아닌지 확실하게 체크할 생각임.
https://gist.github.com/samteezy/a788dcf430deb448ae48bbe17c369241
