r/LocalLLaMA•4개월 전•71•11

Lemonade v10.7 릴리스 및 프로젝트 조직 업데이트

Lemonade v10.7 release and project organization update

핵심 요약

Lemonade v10.7 릴리스와 함께 6개 워킹 그룹 체제로의 전환 및 주요 기능 업데이트를 공유합니다.

Omni 모델 지원 — 이미지 생성 및 편집이 가능한 멀티모달 챗 기능을 Open WebUI와 호환함
자동 튜닝 도구 — lemonade bench CLI를 통해 다양한 백엔드 간 LLM 성능 데이터를 수집함
교차 플랫폼 지원 — llama.cpp 및 stable-diffusion.cpp에 CUDA와 Vulkan 백엔드를 추가함
프로젝트 운영 변화 — 6개의 워킹 그룹을 통해 개발을 주도하며 기여자들의 참여를 확대함

오늘 v10.7 릴리스는 Lemonade 프로젝트의 흥미로운 새 장을 여는 시작점이기에, 프로젝트 수준의 업데이트를 공유하고자 합니다.

Lemonade의 로드맵과 개발은 이제 6개의 워킹 그룹에 의해 주도되며, 그중 4개는 AMD 외부 인사가 이끌고 있습니다. 19명의 기여자가 참여한 v10.7 릴리스의 3개 그룹 주요 내용을 소개합니다.

Local Omni Models

여러 백엔드와 모델을 매끄럽게 결합하여 이미지 생성/편집을 포함한 진정한 옴니 모달 채팅을 구현했습니다. v10.7은 이러한 LMX-Omni 가상 모델을 Open WebUI 및 멀티미디어 렌더링을 지원하는 다른 OpenAI 클라이언트와 호환되도록 만들었습니다.

Auto Tuning

모든 시스템은 사용자가 최적화 플래그를 고민할 필요 없이 최고의 성능을 내야 합니다. v10.7은 이를 위해 llama.cpp, FastFlowLM, vLLM 전반에 걸쳐 동일한 조건의 LLM 성능 데이터를 수집하는 lemonade bench CLI 도구를 추가했습니다.

Cross-Vendor Support

Lemonade가 로컬 AI를 발전시킨다는 사명을 완수하려면 모든 플랫폼에서 훌륭한 경험을 제공해야 합니다. v10.7은 llama.cpp와 stable-diffusion.cpp를 위한 CUDA 백엔드, 그리고 sd-cpp를 위한 Vulkan을 추가했으며, 앞으로 더 많은 지원이 추가될 예정입니다.

v10.7부터 LMX-Omni 가상 모델은 AMD, Apple Silicon, Nvidia, Intel 시스템에서 GPU 가속을 지원합니다.