r/LocalLLaMA•약 7시간 전•35•31
로컬 도구 호출 개인 비서용으로 Gemma 4 E4B가 여전히 최고의 소형 모델인가요? 제가 놓치고 있는 게 있을까요?
Is Gemma 4 E4B still the best small model for a local, tool-calling personal assistant? What am I missing?
핵심 요약
로컬 환경에서 도구 호출과 멀티모달 기능을 갖춘 4B급 소형 모델 중 Gemma 4 E4B를 대체할 만한 모델을 찾는 질문입니다.
- 모델 성능 평가 — Gemma 4 E4B가 여전히 소형 모델 중 도구 호출 및 멀티모달 성능에서 우위를 점함
- 대안 모델 추천 — Nemotron 3.5 Bolt, Spark X2.6, Granite 4.2 등이 언급됨
- 하드웨어 제약 — 로컬 환경에서 8B 이하 또는 6GB 미만 모델을 선호함
- 워크플로우 최적화 — 단일 모델 대신 작업별로 모델을 분리하는 하이브리드 방식이 제안됨
맥에서 로컬 어시스턴트 돌리는 중임 (MLX, oMLX 사용, 24GB M5 Pro). 메일, 캘린더, 메모, 파일 전반에서 툴 호출 확실하게 잘 되고, 몇 개 툴 체이닝도 좀 하고, 짧고 차분한 말투로 대답해 주는 놈이 필요함. 메시지나 이메일, 메모에서 중요한 정보 뽑아내거나 요약하는 것도 잘해야 하고. 긴 이메일이나 문서 읽는 건 기본이고, 내 목소리로 질문 던지거나 화면 스크린샷 찍는 기능도 있어야 함.
지금까지 써본 것 중엔 Gemma 4 E4B가 텍스트, 이미지, 오디오 다 지원해서 제일 나았음. 근데 나온 지 4달이나 돼서 좀 구형이잖아. 혹시 툴 호출, 툴 체이닝, 긴 글 요약, 정보 추출 성능 좋으면서 사이즈는 8B나 6GB 이하인, 멀티모달 지원하는 신상 모델 나온 거 있냐?
ling 3.0 tiny, LFM 모델 시리즈, qwen 3.5 4B/9B(저양자화) 다 돌려봤는데 영 시원찮네. 내가 뭐 놓치고 있는 거 있나? 아니면 그냥 Gemma 4 E4B가 내 용도엔 끝판왕인 거냐?
