speakleash/Bielik-11B-v3.1-Instruct · 허깅페이스
speakleash/Bielik-11B-v3.1-Instruct · Hugging Face
핵심 요약
유럽 언어와 폴란드어에 특화된 11B 파라미터 규모의 Bielik-11B-v3.1-Instruct 모델이 공개되었습니다.
- 모델 성능 — 유럽 언어 및 폴란드어 처리에 최적화됨
- 학습 방식 — 500B 토큰 사전 학습 및 다단계 SFT/RL 적용
- 오픈 소스 — Apache 2.0 라이선스로 공개된 모델
- 접근성 논란 — 웹 데모와 모델 다운로드의 게이트웨이 방식에 대한 비판 존재
huggingface.co
원문 사이트로 이동
https://huggingface.co/speakleash/Bielik-11B-v3.1-Instruct-GGUF
https://www.bielik.ai/blog/premiera-modeli-bielik-11b-v31-dflash-i-rodziny-bielik-one
(의사결정 모델이랑 dflash도 곧 나올 예정)
Bielik-11B-v3.1-Instruct
Bielik-11B-v3.1-Instruct는 110억 개의 파라미터를 가진 생성형 텍스트 모델이야. Bielik 11B v3 라인업의 업데이트 버전으로, 다국어 사전 학습을 확장하고 지시 이행, 도구 사용, 추론 능력을 위한 사후 학습을 강화했어. 이 모델은 오픈 사이언스/오픈 소스 프로젝트인 SpeakLeash와 고성능 컴퓨팅(HPC) 센터인 ACC Cyfronet AGH 간의 독보적인 협업의 결과물이지.
SpeakLeash 팀이 엄선하고 가공한 56개 언어의 다국어 텍스트 코퍼스로 개발 및 학습됐고, 특히 유럽 언어와 폴란드어에 집중했어. 이 프로젝트는 ACC Cyfronet AGH HPC 센터의 폴란드 대규모 컴퓨팅 인프라를 활용했지. Bielik-11B-v3.1-Instruct의 제작과 학습은 PLGrid 환경에서 제공된 자원 덕분에 가능했는데, 컴퓨팅 그랜트 번호 [PLG/2026/019559]를 통해 Athena와 Helios 슈퍼컴퓨터에서 수행됐고, 유럽 연합이 EuroHPC Joint Undertaking을 통해 자금을 지원한 Gaia AI Factory 내에서 진행됐어.
결과적으로 이 모델은 폴란드어와 기타 유럽 언어를 이해하고 처리하는 능력이 압도적이라, 정확한 답변을 내놓고 다양한 언어 관련 작업을 아주 정밀하게 수행해.
🗣️ 채팅: https://chat.bielik.ai/
모델
이 모델은 데이터의 일관성, 신뢰성, 관련성을 보장하기 위해 꼼꼼하게 정제하고 엄격한 품질 평가를 거친 고품질 데이터셋으로 학습됐어. 학습 파이프라인은 500B 토큰 사전 학습, 26M 샘플 SFT, 그리고 14개의 다양한 환경에서의 RL(수정된 GRPO)까지 총 3단계로 구성됐지. 이런 다단계 학습 방식은 모델의 언어 이해력, 지시 이행 능력, 그리고 광범위한 작업에서의 수행 능력을 끌어올리려고 설계된 거야.
