IBM Granite 4.2 30B 모델 허깅페이스 공개

Granite-4.2-30B는 Granite 4.2 라인업의 대장급 추론 모델이다. 내장된 <think>...</think> 사고 과정을 활용해서 추론이 빡센 작업에서 압도적인 성능을 보여줌. 풀 씽킹(기본값), 논 씽킹, 로우 에포트 등 유연한 사고 모드를 지원해서, 질문마다 깊이랑 속도 사이에서 적절하게 타협하며 쓸 수 있다.

핵심 기능:

• 내장 추론: 네이티브 사고 과정(chain-of-thought)을 탑재해서 수학, 코딩, 복잡한 다단계 문제 풀이 성능을 확 끌어올림.

• 유연한 사고 모드: 모델 하나로 풀 씽킹, 논 씽킹, 로우 에포트 모드를 자유자재로 전환 가능.

• 추론 기반 도구 호출: 모델이 어떤 도구를 왜 써야 하는지 스스로 판단해서 함수 호출 정확도가 훨씬 높음.

• 512K 컨텍스트 윈도우: 긴 문서, 멀티턴 대화, 복잡한 에이전트 워크플로우도 거뜬함.

• Apache 2.0 라이선스: 상업적 용도든 연구용이든 맘대로 써도 됨.

모델 설계

Granite-4.2-30B는 디코더 전용 덴스 트랜스포머 아키텍처 기반이고, 핵심 구성 요소는 다음과 같음:

• Attention: Grouped Query Attention (GQA), 어텐션 헤드 32개, KV 헤드 8개

• Position Embedding: Rotary Position Embedding (RoPE), θ = 10,000,000

• Feed-Forward: SwiGLU 활성화 함수를 쓴 MLP (히든 사이즈 32768)

• Normalization: RMSNorm (ε = 1e-5)

• Embeddings: 입력/출력 임베딩 분리 (tied 아님)

• Precision: bfloat16

https://huggingface.co/ibm-granite/granite-4.2-8b

Granite-4.2-8B는 Granite 4.2 라인업의 중간 사이즈 추론 모델임. 내장된 <think>...</think> 사고 과정을 써서 추론 작업에서 꽤 괜찮은 성능을 뽑아준다. 풀 씽킹(기본값), 논 씽킹, 로우 에포트 모드를 지원해서 상황에 맞춰 깊이랑 속도를 조절할 수 있음.

핵심 기능:

• 내장 추론: 네이티브 사고 과정을 통해 수학, 코딩, 복잡한 다단계 문제에서 성능이 확실히 좋아짐.

• 유연한 사고 모드: 모델 하나로 풀 씽킹, 논 씽킹, 로우 에포트 모드를 맘대로 골라 쓸 수 있음.