r/LocalLLaMA•약 1개월 전•213•40

AI 모델을 토렌트로 배포하는 것이 합법이라는 사실을 상기시켜 드립니다.

this is a friendly reminder you can legally seed ai models via torrenting.

핵심 요약

HuggingFace 인수설에 따른 우려를 대비해 AI 모델의 탈중앙화된 배포 수단으로 토렌트 활용을 제안하는 글입니다.

탈중앙화 대안 — HuggingFace 인수 우려에 대비해 토렌트를 통한 모델 공유를 권장함
배포 플랫폼 — 토렌트 외에도 ModelScope, Kaggle, Civitai 등을 대안으로 제시함
커뮤니티 우려 — 중앙화된 플랫폼의 검열이나 폐쇄 가능성에 대한 불안감이 존재함
데이터 보존 — r/DataHoarders 커뮤니티를 중심으로 한 모델 아카이빙 필요성이 언급됨

엔비디아가 허깅페이스(huggingface)를 인수한다는 소식에 다들 허깅페이스가 예전처럼 유지될지 의심하는 분위기네. 대안이 없다느니, NSFW 모델을 다 삭제할 거라느니, 엔비디아가 허깅페이스를 어떻게 망쳐놓을지 믿을 수 없다느니 하면서 벌써부터 다들 난리도 아니야.

우리 대부분은 토렌트나 P2P 네트워크라고 하면 불법 복제나 ISP(인터넷 서비스 제공업체)의 제재 같은 안 좋은 이미지 때문에 거들떠보지도 않지. 근데 허깅페이스에 올라온 모델들은 엄연히 따지면 불법 복제가 아니거든. 그러니까 토렌트나 P2P 네트워크를 써서 다운로드 서버를 운영하는 건 아무 문제 없어. 이게 지금 우리가 가진 탈중앙화 대안이야. qBitTorrent든 뭐든 쓰고 싶은 토렌트 소프트웨어 쓰면 돼. huggingbay나 llama garden, modelregistry io, ckpt cc 말고 다른 트래커는 나도 잘 모르겠네.

만약 네트워크에서 토렌트를 포함한 P2P를 막아놨거나, 업로드 대역폭이 딸려서 시드 박스(seed box)를 쓸 돈도 없고 여유도 없는 상황이라 중앙화된 대안이 꼭 필요하다면, 그냥 modelscope, kaggle, 아니면 civitai를 써.

원문

커뮤니티 목록

r/LocalLLaMA•약 1개월 전•213•40

AI 모델을 토렌트로 배포하는 것이 합법이라는 사실을 상기시켜 드립니다.

this is a friendly reminder you can legally seed ai models via torrenting.

핵심 요약

HuggingFace 인수설에 따른 우려를 대비해 AI 모델의 탈중앙화된 배포 수단으로 토렌트 활용을 제안하는 글입니다.

탈중앙화 대안 — HuggingFace 인수 우려에 대비해 토렌트를 통한 모델 공유를 권장함
배포 플랫폼 — 토렌트 외에도 ModelScope, Kaggle, Civitai 등을 대안으로 제시함
커뮤니티 우려 — 중앙화된 플랫폼의 검열이나 폐쇄 가능성에 대한 불안감이 존재함
데이터 보존 — r/DataHoarders 커뮤니티를 중심으로 한 모델 아카이빙 필요성이 언급됨

주요 댓글

r/localllama

HuggingFace 인수설에 따른 커뮤니티의 불안감이 크며, 모델 보존을 위해 토렌트 활용이나 데이터 아카이빙이 필요하다는 의견이 지배적입니다.

문제는 커뮤니티에 미칠 위축 효과야. HuggingFace의 사회적 측면은 사람들이 자신의 파인튜닝 모델 등을 공유하게 만드는 동기거든.

HuggingFace 같은 사회적 레이어는 유지하되, 모델 배포는 토렌트로 하는 방식(웹사이트 자체가 가장 큰 시더가 되는 방식)을 원한다는 거지. 하지만 그게 유일한 시더는 아니어야 해.

그렇게 하면 서버 비용 문제도 해결될 거고, 만약 모델을 삭제해야 한다면 사이트에서 토렌트 파일을 내리면 그만이야. 그래도 사용자들은 계속해서 배포를 이어갈 수 있을 테니까.

전적으로 동의함

..아니면 커뮤니티가 다른 호스트를 찾아서 새로운 호스팅 모델을 구축할 수도 있겠지.

하지만 LLM을 '정부 승인 목록'에 있는 것만 사용 가능하게 만들 거라는 소문이 돌고 있어. 만약 그렇게 된다면.. 우리는 확실히 토렌트로 넘어가야 할 거야. 심지어 llama.cpp나 lmstudio 같은 곳에 토렌트 기능을 내장할 수도 있겠지.

정말 미친 세상이야.. 돈 많은 놈들이 지배하고 조종하는 건 정말 개소리라고.

토렌트가 호스팅 문제를 해결해주진 않아. 시더가 없는 100GB짜리 샤드는 HuggingFace가 사라지는 것보다 더 최악일 수 있어.

NAS를 하나 장만해야겠군.

솔직히 이건 r/DataHoarders가 나서서 지금 있는 것들을 보존해야 할 사안 같아. 뭘 얼마나 가져올 수 있을지 확인해 볼 생각인데, 내 VRAM은 제한적이고 그래픽카드도 구형이라 그냥 저장용으로만 남겨두게 될 것 같네.

진짜 그런 것 같음. 지금 당장 원하는 가중치들 다 받아놔야 할 듯. 정부가 내 하드 드라이브를 가져가려면 내 시체부터 넘고 가야 할 거다.

왜 다들 회의적인지 모르겠네. Pro6000/5090이나 Nvidia 주가가 왜 그렇게 미친 듯이 높은지 생각해 봐. 로컬 LLM의 성능이 점점 좋아지니까 많은 사람과 기업이 로컬 배포를 위해 하드웨어를 사고 있는 거야. 이런 하드웨어에 대한 높은 수요 = Nvidia의 더 많은 수익과 더 높은 주가로 이어지는 거지.

더 많은 사람이 로컬 LLM에 입문할 수 있도록 HuggingFace를 그대로 유지하고 심지어 개선하는 것이 Nvidia에게도 가장 이득이야.

미국 대통령이 멍청하고 Nvidia는 미국 기업이라서? 그리고 이미 중국 모델을 막으라는 압박이 있었잖아. 이건 Nvidia 자체와는 아무 상관이 없어.

원문r/LocalLLaMA