r/LocalLLaMA•13일 전•217•72
애플 파운데이션 모델: macOS 27에서 네이티브로 구동되는 로컬 AI
Apple Foundation Models: local AI natively on MacOS 27
핵심 요약
macOS 27에 탑재된 애플 파운데이션 모델(AFM)의 성능과 활용 가능성에 대한 사용자들의 논의가 이어짐.
- 모델 사양 — Gemma 기반의 3B 및 20B MOE 모델로 효율성과 통합성에 초점을 맞춤.
- 하드웨어 최적화 — 뉴럴 엔진을 활용해 전력 효율이 높고 빠른 토큰 처리 속도를 제공함.
- 활용 사례 — 비전 기능은 지원하나 오디오는 별도 모델이 필요하며, 일부는 JSON 출력 등에서 한계를 체감함.
- 폐쇄성 우려 — 애플의 폐쇄적인 생태계로 인해 타 모델 포맷 변환 가능성에 의문이 제기됨.
혹시 아는 사람도 있겠지만, 이 관련해서 올라온 글을 하나도 못 봐서 적어봄. 애플이 방금 MacOS 27에서 AFM 모델을 네이티브로 돌릴 수 있게 풀어버림. 그냥 터미널에서 fm chat 치면 바로 실행됨.
참고로 난 오픈 웨이트 지지자임. 오픈 모델이랑 생태계를 훨씬 선호하지만, 그래도 일단 논의는 해보자고.
다들 써봄? 이걸로 뭐 만들어본 사람 있음? 모델 성능은 좀 어때?
애플 같은 기업이 이런 식으로 하드웨어 최적화된 모델을 내놓는다는 건, 로컬 AI 쪽으로 엄청나게 큰 진전이라고 생각함.
다들 어떻게 생각함?
