CrowdGPT - 협업 기반으로 학습하는 LLM
CrowdGPT - A collaboratively trained LLM.
핵심 요약
데이터센터 없이 개인 PC 자원을 활용해 협업으로 LLM을 학습시키는 오픈소스 프로젝트입니다.
- 보안 취약점 — 모델 학습 데이터 오염 및 백도어 공격 가능성에 대한 우려가 제기됨
- 에너지 효율 — 가정용 GPU를 이용한 분산 학습이 데이터센터보다 비효율적이라는 비판이 있음
- 프로젝트 가치 — 기업의 폐쇄적 모델에 대비한 오픈소스 대안으로서의 가능성을 지지함
- 기술적 접근성 — 도커 컨테이너 제공 등 참여 장벽을 낮추기 위한 개선 방안이 논의됨
안녕, 난 지금 데이터센터 없이, AI 기업들이 쏟아붓는 수백만 달러도 안 들이고 LLM을 만드는 CrowdGPT라는 프로젝트를 개발 중이야.
이 프로젝트는 10억 개의 파라미터를 가진 모델을 다 같이, 그리고 투명하게 학습시키는 게 목표야. 프로젝트 방향성에 대해 누구나 의견을 낼 수 있는 프로토콜도 만들고 있어. 자기 PC로 AI를 독립적으로 학습시킨 다음, 그 기여분을 전체 모델에 합칠 수 있게 하는 거지.
대부분의 미국이나 중국 AI 기업들과는 다르게, 이 프로젝트는 오픈소스일 뿐만 아니라 학습 데이터도 100% 공개해(가중치도 마찬가지). 누구나 직접 정제한 데이터를 제출해서 모델 학습에 참여할 수 있고, 프로젝트를 새로운 방향으로 이끄는 데 도움을 줄 수도 있어. 우리 모두가 지분을 가진 AI라는 새로운 패러다임을 만드는 거야.
최대한 많은 사람이 참여했으면 해서 묻는 건데, 너희가 이 프로젝트에 참여하지 않는 이유가 뭐야? 개선할 수 있게 솔직한 답변 좀 듣고 싶어. 그냥 멋진 오픈소스 모델을 만드는 데 자기 GPU 시간을 기꺼이 내줄 의향이 있는 거야? 아니면 뭔가 대가(예를 들면 CrowdGPT 모델 무료 추론 크레딧 같은 거)를 원하는 거야?
지금 모델은 10억 파라미터로 좀 작긴 한데, 앞으로 더 크고 좋게 만들 생각이야. 지금 크기는 그냥 개념 증명용이라고 보면 돼.
프로젝트에 대한 조언이나 피드백은 언제든 환영이야.
프로젝트 웹사이트는 여기: https://www.crowdgpt.net/
코드 확인해보고 싶은 사람은 깃허브로 와 😂 https://github.com/Vxtzq/CrowdGPT
미리 고마워.
추신: 이 글이 서브레딧 규칙에 어긋나지 않았으면 좋겠네! 내 주 목적은 광고가 아니라, 비판을 수용하고 프로젝트를 더 접근하기 쉽게 만드는 방법을 찾는 거니까 😅

