r/LocalLLaMA•4개월 전•40•36
ROCm 기반 MLX LLM 엔진 'lemon-mlx-engine' 신규 릴리스
New Release of ROCm based MLX LLM Engine - lemon-mlx-engine
핵심 요약
ROCm 7.13을 통합하여 로컬 하드웨어에서 MLX 엔진을 더 원활하게 사용할 수 있는 lemon-mlx-engine 업데이트가 공개됨.
- ROCm 7.13 통합 — 최신 ROCm 버전을 로컬 하드웨어에서 MLX 엔진으로 직접 테스트할 수 있음.
- 버그 수정 — Qwen3, 3.5, 3.6 모델(MoE 및 dense)에서 발견된 커널 및 기타 버그들을 해결함.
- 향후 로드맵 — Lemonade SDK 통합 및 MTP 지원이 추가될 예정임.
- 커뮤니티 반응 — AMD GPU와 Apple Silicon의 조합에 대한 호기심과 Fedora 지원 요청이 이어짐.
여러분, lemon-mlx-engine에 TheRock / ROCm 7.13 통합이 완료되었습니다! 이제 로컬 하드웨어에서 MLX 엔진으로 최신 ROCm을 사용해 볼 수 있습니다. 이번 업데이트에는 Qwen3, 3.5, 3.6 MoE 및 dense 모델에서 확인된 다양한 버그와 커널 수정 사항이 포함되어 있습니다. 지금 바로 확인해 보세요! https://github.com/lemonade-sdk/lemon-mlx-engine/releases/tag/b1034-stable
