Claude Code로 GPUMesh를 만들었습니다 - 이제 친구의 유휴 GPU에서 AI 에이전트를 돌릴 수 있습니다

AI 에이전트 만들다 보니까 계속 골치 아픈 문제가 하나 있더라고. 내 GPU는 뭐 돌리느라 바빠 죽겠는데, 친구 놈 NVIDIA GPU는 그냥 놀고 있는 거임.

거창하게 클라우드 인프라 구축 같은 거 안 하고, 그냥 남는 자원 좀 간단하게 쓸 방법 없을까 싶었지.

그래서 오픈소스 P2P GPU 공유 툴인 GPUMesh를 만들었어.

신뢰할 수 있는 기기끼리 연결해서 원격으로 Docker GPU 워크로드를 돌리는 방식이야.

gpumesh share → GPU 공유하기
gpumesh pair → 신뢰할 수 있는 연결 맺기
gpumesh run --peer <name> ... → 해당 기기에서 GPU 작업 실행

작업은 제공자 기기의 GPU 옆에서 Docker 컨테이너로 돌아가. GPUMesh가 피어 연결, 권한 관리, 작업 실행, 로그까지 다 알아서 처리해 줌.

난 이걸로 이런 거 하고 있어:

• 다른 기기에서 AI 에이전트 워크로드 돌리기

• 내 GPU 바쁠 때 모델 학습시키기

• 친구들 남는 GPU 자원 빌려 쓰기

• 서버 따로 세팅할 필요 없이 CUDA/Docker 워크로드 실행하기

Claude Code가 어떻게 도움 됐나

프로젝트 상당 부분을 Claude Code 써서 만들었어.

CLI랑 Rust 워크스페이스 설계하고 구현할 때, P2P 네트워킹 계층, 컨테이너/작업 실행 흐름, 페어링 및 접근 제어 로직, GPU 감지, 에러 핸들링, 테스트까지 전부 Claude Code 도움을 받았지.

특히 좋았던 건 Claude Code한테 "신뢰할 수 있는 기기 두 대가 서로 안전하게 찾고, 한쪽에서 다른 쪽으로 Docker GPU 작업을 보낼 수 있게 하고 싶어" 같은 식으로 상위 수준의 요구사항을 던져주면, 네트워킹이나 CLI, 실행 세부 사항까지 같이 굴리면서 작업할 수 있다는 점이었어.

네트워킹, Docker, NVIDIA Container Toolkit, CLI 사이의 복잡한 연동 부분 디버깅할 때도 Claude Code가 진짜 유용하더라.

이 프로젝트는 무료 오픈소스야. 직접 돌려보고 네 기기나 GPU에 쓰면 돼.

RTX 5060에서 페어링부터 연결, 공유, 원격 Docker 작업 실행, 원격 CUDA 컨테이너 안에서 nvidia-smi 돌리는 것까지 전체 흐름 다 테스트 마쳤어.

arjun988/GPU-Share

니들 AI 에이전트가 여기저기 흩어진 신뢰할 수 있는 GPU들을 쓸 수 있게 되면 뭘 만들지 궁금하네.

써보고 뭐가 문제인지, 다음에 어떤 기능이 추가됐으면 좋겠는지 알려주면 고맙겠어. 프로젝트 쓸만하다 싶으면 레포에 ⭐ 하나씩 박아주라.