r/LocalLLaMA•약 5시간 전•47•5
Goats of Inference와 함께하는 양자화 라이브 스트리밍
Quantization livestream with goats of inference
핵심 요약
Hugging Face의 Merve가 vLLM 및 양자화 전문가들과 함께 진행하는 양자화 워크숍 라이브 스트리밍을 홍보합니다.
- 라이브 워크숍 — 양자화 원리와 최신 기술을 다루는 전문가 세션 진행
- 전문가 패널 — vLLM 메인테이너 및 주요 기여자들 참여
- 학습 내용 — 더블 양자화, 캘리브레이션, llama.cpp 퀀트 기법 포함
안녕 다들, 허깅페이스의 Merve야. 이번 글 제목 보면 딱 감 오지? vLLM 리드 메인테이너인 RedHat의 Michael Goin, 똑같이 RedHat의 Colin Kealty(다들 bartowski라고 부르지), Maxime Labonne, 그리고 Aditya Tadimeti랑 같이 양자화 워크숍 라이브 스트리밍을 진행할 거야.
양자화가 어떻게 돌아가는지, 요즘 트렌드인 기술들(더블 양자화, 캘리브레이션)이랑 llama.cpp 양자화(k-quants, i-quants)까지 싹 다 알려줄 거니까, 하나도 모르는 상태라도 부담 갖지 말고 들어와서 같이 놀자.
모든 정보는 허깅페이스 유튜브, X, 링크드인에 올라와 있으니까 알림 설정해두고.
다들 거기서 보자!
