r/LocalLLaMA•3개월 전•167•23
모델 레지스트리: 허깅페이스를 웹 시드 백업으로 사용하는 오픈 모델 토렌트
Model Registry: Torrents for open models using Hugging Face as a fallback web seed.
핵심 요약
허깅페이스를 웹 시드로 활용해 오픈 모델을 토렌트로 공유하는 '모델 레지스트리' 프로젝트 소개.
- 프로젝트 소개 — 허깅페이스를 웹 시드 백업으로 활용하는 오픈 모델 토렌트 공유 플랫폼.
- 기술적 구현 — 비트토렌트 클라이언트 요청을 허깅페이스 LFS 엔드포인트로 리다이렉트하는 백업 서비스 구축.
- 자동화 계획 — 깃허브 액션을 통한 토렌트 생성 및 배포 자동화 추진 중.
- 용량 문제 — 100GB 이상의 대형 모델 처리를 위한 깃허브 액션 대안 모색 중.
안녕하세요,
인기 있는 오픈 모델의 .torrent 파일을 게시/공유하기 위한 저장소/사이트를 만들었고, 웹 시드 지원과 자동화를 위한 몇 가지 스크립트를 추가했습니다.
저장소: https://github.com/marella/modelregistry
사이트: https://modelregistry.io
피어가 없을 경우 허깅페이스에서 파일을 다운로드할 수 있도록 웹 시드가 백업으로 사용됩니다. 이를 구현하기 위해(https://www.bittorrent.org/beps/bep_0019.html), 비트토렌트 클라이언트의 요청을 파일이 LFS에 저장되어 있는지 여부에 따라 올바른 허깅페이스 엔드포인트로 리다이렉트하는 작은 백엔드 서비스를 구축해야 했습니다. 아직 실험적인 단계입니다. 가끔 허깅페이스 CDN이 일부 파일에 대해 오류를 반환하지만, 보통 몇 번 재시도하면 다운로드가 성공합니다.
아직 개발 중입니다. 깃허브 액션을 사용하여 전체 프로세스(새 모델에 대한 .torrent 생성, 사이트 게시 등)를 자동화할 계획입니다. 하지만 깃허브의 무료 러너는 약 100GB의 디스크 공간만 제공하므로, 100GB가 넘는 모델을 위한 대안을 찾아야 합니다.
의견이나 제안을 공유해 주세요.
