2026년 7월 기준 최고의 로컬 VLM 추천

하드웨어: 7900XTX eGPU, llama.cpp를 통한 vulkan 백엔드 구동

사용 사례:

• 멀티 프레임 NVR 분석: 전통적인 객체 탐지 모델로 감지된 메타데이터와 결합된 보안 카메라의 연속 프레임을 분석하고, 활동을 정상, 의심스러움, 위험으로 분류. 또한 요약, 짧은 설명, 제목을 제공.
  • Qwen3-Vl / Qwen3.5: 지금까지는 이게 제일...

이거 비주얼 랭귀지 모델에 대한 글 아니었음?

하드웨어: Win11에서 llama.cpp를 사용하는 RTX 5090

사용 사례: 이미지 생성 모델 학습 데이터를 만들기 위한 데이터셋 캡셔닝.

Qwen3.6 35B Q4 + F32-MMPROJ: 바운딩 박스를 활용한 정밀한 데이터셋 캡셔닝이나 "주어진 규칙에 따라 이미지를 캡션하라: ..."처럼 논리적 추론이 필요한 작업에 사용.

규칙 없는 일반적인 이미지 캡셔닝에는 Qwen3 VL 8B BF16이 나한테는 최고임. Q8도 쓸만함.

사용 사례: 식료품 영수증 분석 같은 OCR 작업

r을 위해 ...

실제 환경의 이미지 세트가 진짜 도움 됨. 벤치마크 스크린샷도 괜찮긴 한데, 실제 성능이 어떤지는 안 보여주거든. 영수증, 화이트보드, 흔들린 폰카 같은 것들이야말로 차이가 확실히 드러나는 예시지. 이런 종류의 이미지들이 훨씬 더 도움 돼.