r/LocalLLaMA•약 5시간 전•134•10
세계에서 가장 빠른 WebGPU 커널을 오픈소스로 공개했습니다
We just open-sourced the world's fastest WebGPU kernels for local AI on Hugging Face
핵심 요약
브라우저에서 로컬 AI를 구동할 수 있는 고성능 WebGPU 커널이 오픈소스로 공개되었습니다.
- WebGPU 커널 — 200개 이상의 머신러닝 연산을 브라우저에서 로컬로 실행 가능함
- 오픈소스 공개 — Hugging Face를 통해 관련 커널과 블로그 포스트를 제공함
- 생태계 확장 — Transformers.js 및 ONNX Runtime Web 등으로 최적화 적용 예정
The collection includes kernels for more than 200 common ML operations, all of which can run entirely locally in your browser on WebGPU. We're also working to upstream these optimizations to Transformers.js, ONNX Runtime Web, LiteRT.js, and more!
Kernels: https://huggingface.co/kernels?platform=webgpu
Blog: https://huggingface.co/blog/webgpu-kernels
