r/LocalLLaMA•약 5시간 전•19•15
NVIDIA Nemotron 3.5 Bolt E4B 4GB (Gemma 4 E4B 기반 포스트 트레이닝 모델)
NVIDIA Nemotron 3.5 Bolt E4B 4GB (post-trained Gemma 4 E4B)
핵심 요약
NVIDIA가 Gemma 4 E4B를 기반으로 성능과 효율을 개선한 경량화 모델 Nemotron 3.5 Bolt E4B를 공개했습니다.
- 모델 성능 향상 — 이전 모델 대비 벤치마크 점수 약 40% 상승 및 토큰 출력 효율 개선
- 에이전트 기능 강화 — 자연스러운 대화와 멀티턴 에이전트 작업에 최적화된 설계
- 다양한 하드웨어 지원 — RTX, Jetson, DGX 등 NVIDIA 하드웨어 환경에서 구동 가능
- 사용자 반응 — 전반적으로 긍정적이나 일부 성능 저하와 드래프터 속도 문제를 지적함
Bolt E4B는 Gemma 4 E4B를 기반으로 Nemotron 포스트 트레이닝을 거쳐서 만들어졌어. 자연스러운 대화 능력에 멀티턴 에이전트 기능까지 합쳐놔서, NVIDIA GeForce RTX, Jetson, RTX Spark, DGX Spark에서 돌아가는 음성/기기 비서나 인터랙티브 캐릭터, 로봇/IoT 인터페이스에 딱이야.
Bolt E4B는 주요 대화형 에이전트 벤치마크에서 이전 모델보다 평균 품질이 약 40% 정도 더 좋아졌고, 다른 모델들이랑 비교했을 때 토큰 출력량도 최대 80%까지 줄였어.
HF 링크: https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB
Nvidia 포스트: https://research.nvidia.com/labs/nemotron/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB
