r/LocalLLaMA•4개월 전•817•130

오픈 소스 모델을 위한 토렌트 네트워크를 구축해야 합니다.

We should set up a torrent network for open source models.

핵심 요약

허깅페이스에 의존하는 모델 배포 방식의 위험성을 지적하며, 분산형 네트워크 구축을 제안하는 논의입니다.

단일 실패 지점 — 허깅페이스가 미국 기업이라 모델 배포가 차단될 위험이 있음
분산형 미러링 — 토렌트나 IPFS를 활용해 모델을 안전하게 백업하고 배포함
기술적 대안 — 토렌트 외에도 Usenet, Debrid 캐싱, IPFS 등 다양한 분산 기술이 거론됨
커뮤니티 협력 — 데이터 보관 전문가들이 모인 서브레딧과의 협업 필요성 제기

최근 일들 때문에 방금 이 생각을 했음.

허깅페이스는 미국에 기반을 둔 회사로, 법적으로는 Hugging Face, Inc.로 등록되어 있고 공식 본사는 뉴욕 브루클린에 있음.

로컬 모델 입장에서 보면 꽤 큰 단일 실패 지점(single point of failure)인 것 같음.

혹시 모를 상황을 대비해서 모델의 분산형 네트워크 미러를 백업으로 만들어두면 좋지 않을까?

다른 나라에서 모델을 호스팅할 수도 있겠지만, 분산형이 가장 안전해 보이는데.. 다들 어떻게 생각함?

원문

커뮤니티 목록

r/LocalLLaMA•4개월 전•817•130

오픈 소스 모델을 위한 토렌트 네트워크를 구축해야 합니다.

We should set up a torrent network for open source models.

핵심 요약

허깅페이스에 의존하는 모델 배포 방식의 위험성을 지적하며, 분산형 네트워크 구축을 제안하는 논의입니다.

단일 실패 지점 — 허깅페이스가 미국 기업이라 모델 배포가 차단될 위험이 있음
분산형 미러링 — 토렌트나 IPFS를 활용해 모델을 안전하게 백업하고 배포함
기술적 대안 — 토렌트 외에도 Usenet, Debrid 캐싱, IPFS 등 다양한 분산 기술이 거론됨
커뮤니티 협력 — 데이터 보관 전문가들이 모인 서브레딧과의 협업 필요성 제기

최근 일들 때문에 방금 이 생각을 했음.

허깅페이스는 미국에 기반을 둔 회사로, 법적으로는 Hugging Face, Inc.로 등록되어 있고 공식 본사는 뉴욕 브루클린에 있음.

로컬 모델 입장에서 보면 꽤 큰 단일 실패 지점(single point of failure)인 것 같음.

혹시 모를 상황을 대비해서 모델의 분산형 네트워크 미러를 백업으로 만들어두면 좋지 않을까?

다른 나라에서 모델을 호스팅할 수도 있겠지만, 분산형이 가장 안전해 보이는데.. 다들 어떻게 생각함?

주요 댓글

r/localllama

Hugging Face가 단일 실패 지점이 될 수 있다는 우려에 공감하며, 모델 배포를 위한 분산형 네트워크나 토렌트 도입의 필요성과 그 한계에 대해 논의하고 있습니다.

214

완전 동의함! 근데 네트워크를 구축한다는 게 무슨 뜻임? 예를 들어 Unsloth가 자기네 모델을 토렌트로 올리고 검증용 해시값을 사이트에 공개하는 걸 막을 건 아무것도 없잖아.

그냥 모델이나 토렌트를 정리해두는 TPB 같은 사이트 같은 거 말하는 거임

TheLlamaBay.ai

Mythos 크랙하려면 Fitgirl이 필요해

Fitgirl은 크랙 같은 거 안 함, 리팩(repack)을 만드는 거지.

바다를 항해하는(불법 다운로드하는) 복잡한 기술들.

Voices38

그래, 아주 안전하겠네.

모델 제작자가 자기 아카이브에 GPG 서명을 못 달 이유가 없지. 충분히 가능한 일임.

가서 직접 코딩해봐

그러니까 트래커를 만들고 싶다는 거지?

Unsloth한테 전체 모델 파일의 sha256sum을 공개해달라고 몇 번이나 요청했거든(HF에서 자동으로 받는 샤드 체크섬 말고). 돌아오는 대답은 항상 '좋은 생각이다!'인데, 정작 바뀐 건 없음. 내 생각엔 인센티브 문제인 듯. HF는 게이트 모델이든 일반 모델이든 계속 관문 역할을 하고 싶어 하니까 안 할 거고, Unsloth는 그렇게 하면 HF 순위에서 밀려나니까 안 하는 거지. HF가 지금처럼 마그넷 링크를 똑같이 공개해주면 잘 될 텐데...

길이 제한으로 뒷부분이 생략된 댓글입니다 · 원문에서 전체 보기 →