r/LocalLLaMA•3개월 전•39•32
주의: 트레이에 있는 채팅 앱들이 VRAM 1GB를 잡아먹고 있음
Pay attention: a few chats waiting in tray reserve 1GB VRAM for themselves.
핵심 요약
LLM 구동 시 VRAM을 점유하는 백그라운드 앱들의 하드웨어 가속 기능을 끄거나 종료하여 VRAM을 확보하는 팁입니다.
- VRAM 점유 문제 — 웹 기반 앱의 하드웨어 가속이 VRAM을 불필요하게 예약함
- 백그라운드 앱 정리 — Discord, Steam 등 VRAM을 많이 먹는 앱을 종료하거나 가속을 끄는 것이 좋음
- 전용 브라우저 활용 — LLM 작업 전용으로 하드웨어 가속을 끈 브라우저를 따로 사용하는 것이 효율적임
- 모니터링 방법 — 리눅스 환경에서는 nvidia-smi 명령어로 VRAM 점유율을 확인할 수 있음
웹 기반 인터페이스와 "하드웨어 가속"을 사용하는 앱은 VRAM에 프레임을 구성하며, 앱이 최소화되어 있어도 이를 예약해 두는 경우가 있음.
내 리눅스 머신에서는 Discord가 450 MB VRAM을 예약하며 가장 심각함. Steam은 200 MB, Telegram은 150 MB를 차지하고, 다른 앱들까지 합치면 1 GB가 넘어감.
VRAM을 쥐어짜야 하는 상황이라면, 해당 앱들을 끄거나 설정에서 "하드웨어 가속"을 끄는 것이 좋음. 다만, 그러면 화면이 많이 끊길 수 있음.
하드웨어 가속을 끈 브라우저를 하나 더 만들어서 LLM 작업할 때만 사용하는 것도 괜찮은 방법임.
P.S. 리눅스에서 Nvidia를 쓴다면 nvidia-smi 명령어로 VRAM 잡아먹는 놈들 목록을 확인할 수 있음.
