openbmb/MiniCPM-V-4.7-1B

Gguf 파일들: https://huggingface.co/openbmb/MiniCPM-V-4.7-1B-gguf

"MiniCPM-V 4.7은 MiniCPM-V 시리즈의 최신 모델로, 1B 버전으로 나왔어. 기존 시리즈가 가진 단일 이미지, 다중 이미지, 영상 이해 능력을 그대로 가져가면서, 더 강력한 기초 성능에 효율적인 시각 인코딩, 온디바이스 추론까지 싹 다 잡았지. MiniCPM-V 4.7의 주요 특징은 다음과 같아:

• 🔥 성능과 효율의 새로운 파레토 최적점. 모델 성능이 계속 좋아지면서 이제는 추론 효율이 모델 가치를 결정하는 중요한 척도가 됐잖아. 자원이 제한된 기기에서는 한정된 예산 안에서 최대한의 성능을 뽑아내는 '성능 밀도'가 핵심인데, MiniCPM-V 4.7의 1B 버전은 MLLM 분야에서 성능과 효율의 파레토 최적점을 한 단계 더 끌어올렸어. Instruct 모드에서 1B 버전은 MiniCPM-V 4.6보다 기초 성능이 더 좋아졌고, 전체 점수나 추론 효율 면에서 Qwen3.5 0.8B를 확실하게 압살해.

• 🚀 효율적인 아키텍처. LLaVA-UHD v4에서 쓴 intra-ViT 초기 압축 기술을 기반으로, 비전 인코더 안에서 시각 토큰을 미리 압축해서 뒤쪽 인코더 레이어의 연산량을 확 줄였어. 게다가 4x/16x 혼합 시각 토큰 압축도 지원하니까, 개발자들이 작업에 맞춰서 시각적 디테일이랑 추론 비용 사이에서 적절하게 타협점을 찾을 수 있지.

• 💻 다양한 플랫폼 및 칩 지원. MiniCPM-V 4.7은 iOS, Android, HarmonyOS를 전부 지원하고, 오픈소스 온디바이스 배포도 가능해. Rockchip, Houmo, Intel, AMD, Arm 칩셋도 출시 당일부터 바로 지원하니까 모바일이나 로컬 컴퓨팅 환경 어디서든 갖다 쓰기 편할 거야.

• 🛠️ 개발자 친화적 환경. MiniCPM-V 4.7은 SGLang, vLLM, llama.cpp, Ollama 같은 추론 프레임워크는 물론이고, SWIFT나 LLaMA-Factory 같은 파인튜닝 프레임워크까지 다 지원해. GGUF, BNB, AWQ, GPTQ 양자화 버전도 제공하고 FP8 양자화 지원도 추가됐어. 여기에 기존 능력은 까먹지 않으면서 저비용으로 모델 성능을 확장할 수 있는 Self-Replay Fine-Tuning 방식도 공개했으니까, 입맛대로 커스텀하기 훨씬 쉬울 거야."