ik_llama.cpp의 Vulkan 지원을 위한 전문가 및 자원봉사자 모집
Experts-Volunteers needed for Vulkan on ik_llama.cpp
핵심 요약
ik_llama.cpp 프로젝트에서 Vulkan 백엔드 유지보수를 전담할 숙련된 개발자를 찾고 있습니다.
- Vulkan 유지보수 — 현재 ik_llama.cpp의 Vulkan 백엔드 관리를 전담할 인력이 부족함.
- 기술적 요구사항 — Vulkan에 대한 깊은 이해와 그래프 병렬 처리 구현 능력이 필요함.
- Claude 의존성 — Vulkan 지식 부족으로 인해 Claude에 의존하는 상황을 개선하고자 함.
ik_llama.cpp는 CPU와 CUDA 모두에서 훌륭하게 작동합니다. Vulkan도 더 잘 작동하게 만들 전설적인 개발자들이 필요합니다.
https://github.com/ikawrakow/ik_llama.cpp/discussions/590#discussioncomment-16357564
얼마 전 Vulkan 백엔드를 최신 상태로 업데이트한 후, 이를 계속 유지보수할 여력이 없다는 것을 느꼈습니다. llama.cpp에는 Vulkan만 전담하는 관리자가 두 명이나 있습니다.
하지만 여러분이 기꺼이 하겠다면, Vulkan을 다시 살려볼 수 있습니다. 특히 Vulkan 백엔드에 그래프 병렬 처리 기능을 구현하는 것이 관심사입니다(지난번 작업 이후 쌓인 누락된 연산들을 포팅한 후에 말이죠).
제 생각에 문제는 제가 Vulkan에 관해서는 완전 초보라는 점입니다. Claude의 도움을 받아 준비했던 CPU 변경 사항들과 달리, Vulkan은 Claude의 자비에 맡겨야 할 것이고, 이는 시간이 지나면 완전히 재앙이 될 수 있습니다. 그래서 ik_llama.cpp의 Vulkan 관리자가 되고 싶다면, 저보다 훨씬 더 많은 지식을 갖춰야 할 것입니다.
https://github.com/ikawrakow/ik_llama.cpp/pull/608
https://github.com/ikawrakow/ik_llama.cpp/discussions/562
미리 감사드립니다!
