r/LocalLLaMA•약 3시간 전•69•37
마이크로소프트의 137B A6.8B 모델?
137B A6.8B model from Microsoft?
핵심 요약
마이크로소프트가 공개한 MAI-Code-1.1-Flash 모델의 성능과 하드웨어 요구 사양에 대한 논의가 이어지고 있습니다.
- 모델 사양 — 총 137B 파라미터 중 6.8B 활성 파라미터를 사용하는 MoE 구조임
- 하드웨어 요구 — 최적의 성능을 위해 120GB 이상의 RAM을 권장함
- 성능 논란 — 실제 사용 경험에서 Qwen 모델보다 성능이 떨어진다는 비판이 제기됨
- 접근성 — GitHub Copilot을 통해 로컬 실행이 가능하며 256K 컨텍스트를 지원함
github.com
원문 사이트로 이동
이거 진짜 흥미롭네:
https://commandline.microsoft.com/local-models-sandboxed-tools-github-windows/
Microsoft AI가 MAI Code 1.1 Flash의 로컬 버전을 개발했는데, 이건 총 1,370억 개, 활성 파라미터 68억 개로 구성된 코딩 최적화 Mixture-of-Experts 모델이야.
