r/LocalLLaMA•5개월 전•137•32
IBM Granite 4.1 8B 모델 허깅페이스 공개
ibm-granite/granite-4.1-8b · Hugging Face
핵심 요약
IBM이 새롭게 공개한 8B 파라미터 규모의 Granite 4.1 모델에 대한 커뮤니티의 반응과 기술적 논의.
- 모델 성능 — 8B 파라미터의 Granite 4.1 모델이 향상된 추론 및 도구 사용 능력을 갖추고 공개됨.
- Dense 모델 귀환 — MoE 모델 위주의 시장에서 Dense 모델의 복귀를 반기는 분위기가 형성됨.
- 벤치마크 논란 — 모델 간 성능 비교 시 평가 설정에 따른 결과 차이로 인해 직접적인 비교가 어렵다는 지적이 나옴.
- 출시일 오류 — 모델 카드에 기재된 2026년이라는 미래 날짜로 인해 커뮤니티에서 유머 섞인 반응이 이어짐.
모델 요약: Granite-4.1-8B는 Granite-4.1-8B-Base를 기반으로 허용 가능한 라이선스의 오픈 소스 지시 데이터셋과 내부적으로 수집한 합성 데이터셋을 조합하여 파인튜닝한 8B 파라미터 규모의 긴 문맥(long-context) 지시 모델입니다. Granite 4.1 모델은 지도 파인튜닝과 강화 학습 정렬을 포함한 개선된 사후 학습 파이프라인을 거쳤으며, 이를 통해 도구 호출, 지시 이행 및 대화 능력이 향상되었습니다.
- 개발자: Granite 팀, IBM
- 허깅페이스 컬렉션: Granite 4.1 Language Models HF Collection
- 기술 블로그: Granite-4.1 Blog
- GitHub 저장소: ibm-granite/granite-4.1-language-models
- 웹사이트: Granite Docs
- 출시일: 2026년 4월 29일
- 라이선스: Apache 2.0
지원 언어: 영어, 독일어, 스페인어, 프랑스어, 일본어, 포르투갈어, 아랍어, 체코어, 이탈리아어, 한국어, 네덜란드어, 중국어. 사용자는 이 외의 언어에 대해서도 Granite 4.1 모델을 파인튜닝할 수 있습니다.
사용 목적: 이 모델은 일반적인 지시를 따르도록 설계되었으며, 비즈니스 애플리케이션을 포함한 다양한 도메인의 AI 어시스턴트뿐만 아니라 도구 사용 능력을 갖춘 LLM 에이전트의 기반으로 활용될 수 있습니다.
기능
- 요약
- 텍스트 분류
- 텍스트 추출
- 질의응답
- 검색 증강 생성(RAG)
- 코드 관련 작업
- 함수 호출 작업
- 다국어 대화 사례
- FIM(Fill-In-the-Middle) 코드 완성
