Reflection/Beam-1.0-501B-A23B · Hugging Face
reflection/Beam-1.0-501B-A23B · Hugging Face
핵심 요약
501B 파라미터 규모의 MoE 모델인 Beam-1.0이 공개되었으며, 뛰어난 추론 능력과 에이전트 도구 활용 성능을 강조합니다.
- 모델 아키텍처 — 501B 총 파라미터와 23B 활성 파라미터를 가진 희소 MoE 구조를 채택함
- 추론 효율성 — 기존 오픈 모델 대비 3배 적은 토큰으로 동등한 수준의 문제 해결 품질을 제공함
- 소프트웨어 공학 — 실제 GitHub 이슈 해결 및 CLI/DevOps 환경에서의 에이전트 작업 수행을 지원함
- 기술 사양 — 1M 토큰의 컨텍스트 윈도우와 BF16, FP8, NVFP4 수치 형식을 지원함
huggingface.co
원문 사이트로 이동
Beam은 Reflection에서 만든 오픈 모델이야. 텍스트를 입력받아서 텍스트를 뱉어내는 방식이지. 이번 릴리스에는 BF16, FP8, NVFP4 수치로 구성된 인스트럭션 튜닝 모델이 포함돼 있어. Beam은 총 501B 파라미터에 활성 파라미터 23B를 사용하는 희소 전문가 혼합(MoE) 아키텍처를 채택했어. 1M 토큰의 컨텍스트 윈도우를 지원하고, 주로 영어에 최적화해서 개발됐지.
주요 기능
-
토큰 효율적인 추론: 추론 시 필요한 추론 토큰을 약 3배 적게 사용하면서도 주요 오픈 모델들과 맞먹는 수준의 결과물을 뽑아내.
-
소프트웨어 엔지니어링: 실제 GitHub 이슈를 해결하고, CLI나 DevOps 환경에서 잘 돌아가며, 에이전트형 코딩 도구와 바로 연동돼. 다양한 언어의 코드 생성을 지원해.
-
에이전트형 도구 사용: 장기적인 작업 수행, MCP 기반 도구 통합, 웹 브라우징이 가능해. 자연어 지시사항만으로 복잡한 다단계 워크플로우를 알아서 처리해.
-
추론 (수학 및 과학): 대학원 수준의 과학 문제 풀이, 정리 증명, 응용 수학까지 가능해. 이런 추론 능력은 에이전트가 실행 중에 디버깅하거나 계획을 짜고 스스로 수정할 때도 그대로 발휘돼.
모델 개요
Beam 모델은 에이전트형 도구 사용, 코딩, 일반적인 추론 같은 분야에서 토큰 효율성을 극대화하면서도 강력한 성능을 내도록 설계됐어.
| Property | Beam 501B A23B MoE |
|---|---|
| Total Parameters | 501.3B |
| Active Parameters | 23.4B |
| Layers | 52: 3 dense + 49 MoE |
| Attention | Gated GQA + Sliding Window Attention |
| Context Length | 1M |
| Vocabulary Size | 152k tokens |
| Expert Count | 256 |
| Supported Modalities | Text |
| Chat Template | Modified Harmony format |
| Numerics | BF16, FP8, NVFP4 |
| Knowledge cutoff | June 30, 2026 |
| Benchmark | Beam(BF16) | Beam(FP8) | Beam(NVFP4) |
|---|---|---|---|
| Agentic Coding / Terminal |
