RTX 30-40 시리즈 GPU 언락(unlock) 확인해 본 사람?
Anyone checked gpu unlock for rtx 30-40 cards?
핵심 요약
RTX 3090의 특정 연산 제한을 해제하는 커널 모듈에 대한 논의와 실제 성능 향상 사례를 공유하는 글입니다.
- GPU 연산 제한 — NVIDIA가 소비자용 카드에 걸어둔 특정 연산 제한을 해제하는 모듈이 화제임
- 성능 향상 — 3090 환경에서 프리필(prefill) 속도가 10~12%가량 향상됨
- 전력 소모 — 성능 향상을 위해서는 전력 제한 해제가 필수적이며 전력 소모가 큼
- 실제 체감 — 모델 추론이나 이미지 생성 등 작업에 따라 성능 향상 폭이 제한적임
트위터에서 3090 쿠다 커널 절반이 비활성화되어 있다는 글을 봤음:
내 3090들이 BF16 텐서 연산에서 1.9배나 더 빨라짐!!! 카드도 그대로, 드라이버도 그대로, 300W 전력도 그대로인데 리눅스 커널 모듈 하나 썼을 뿐임.
bf16 텐서 파이프: 82 -> 155 TFLOPS
cuBLAS BF16 GEMM 8192: 64 -> 99 TFLOPS
TF32: 41 -> 79 TFLOPS
엔비디아는 모든 3090을 출고할 때 fp32-accumulate 텐서 연산 속도를 반토막 내서 보냄. 드라이버에서도 FMLA32 = 1/2라고 대놓고 나옴. Zagitta가 만든 gpu-unlock을 쓰면 엔비디아 드라이버가 로드되기 전에 이걸 풀 속도로 설정해줌. 콜드 부팅하고 나니까 내 카드 4개 전부 FMLA32 = full로 뜨더라.
실제 추론 성능은 예상보다 덜 나왔음. 카드 2개로 Strata, Qwen3.8 Flash-Next 돌려본 프리필(prefill) 결과임:
4K: +12%
10K: +12%
90K: 3205 -> 3536 tok/s, +10%
설치하기 전엔 90K에서 14~19% 정도 오를 거라 예상했는데 틀렸음. GEMM 단계는 23% 빨라졌는데, 이게 Strata 프리필의 40% 정도밖에 안 되고 int8 전문가 모델이나 복사, 쿠다 코어 커널 쪽은 속도 변화가 없었음.
출력값은 그대로임. 같은 전문가 캐시 사이즈로 1996개 티처 포스드(teacher-forced) 위치에 대해 로그 확률 덤프를 떠봤는데, 모듈 쓰기 전 순정 상태랑 바이트 단위까지 똑같음.
40 시리즈 카드에서도 될지 궁금하네.
