양자화 모델들을 백업해두세요!
Backup your quants!
핵심 요약
허깅페이스의 잠재적 폐쇄 가능성을 우려하며 로컬 LLM 양자화 모델을 미리 백업하고 토렌트로 공유하자는 제안입니다.
- 모델 백업 권장 — 허깅페이스의 정책 변화나 폐쇄 가능성에 대비해 로컬 모델을 보관해야 함
- 토렌트 공유 — 모델 보존을 위해 토렌트나 분산 저장소 활용을 적극 권장함
- 하드웨어 우려 — 모델 저장에 필요한 대용량 HDD 가격 상승에 대한 불만 제기
- 보존 전략 — 원본 bf16 가중치를 확보하면 필요할 때 언제든 양자화가 가능함
출처: https://huggingface.co/mradermacher/model\_requests
다른 양자화 모델 제작자들도 상황은 다 똑같을 거다.
혹시라도 꼭 챙겨두고 싶은 게 있다면 지금 당장 백업해두는 게 좋을 거다.
여건이 된다면 토렌트로 만들어서 여기 좀 공유해줘:

