Unsloth, 이제 AMD 지원 시작!
Unsloth now supports AMD!
핵심 요약
Unsloth가 AMD 하드웨어에 대한 공식 지원을 시작하여 로컬 추론 및 파인튜닝 효율을 대폭 개선했습니다.
- AMD 공식 지원 — 로컬 추론, 파인튜닝, 강화 학습 및 배포 지원
- 메모리 최적화 — VRAM 사용량을 최대 70~80%까지 절감
- 광범위한 호환성 — Radeon RX 7000/9000 시리즈 및 MI300/350 등 지원
- 간편한 설치 — Linux, WSL, Windows PowerShell을 통한 자동 설치 제공
안녕하세요 r/LocalLLaMA 여러분! Unsloth가 이제 로컬 추론, 파인튜닝, 강화 학습 및 배포를 위해 AMD 하드웨어를 공식 지원합니다! 꽤 오랫동안 준비해 왔는데, 이제 AMD GPU가 탑재된 Windows, Linux 및 WSL 장치(기술적으로는 Mac 포함)에서 작동합니다!
Unsloth Studio는 완전 오픈 소스이자 무료이며, 다음을 지원합니다:
- Radeon RX 9000 및 7000 시리즈
- Instinct MI350 및 MI300 GPU
- Strix Halo / Ryzen AI Max 시스템
- GPU 없이 추론을 수행하는 AMD CPU
최대 70% 적은 VRAM으로 모델을 학습하고, 최대 80% 적은 VRAM으로 강화 학습을 실행할 수 있으며, 최적화된 ROCm, Triton, bitsandbytes, PyTorch 및 llama.cpp 빌드를 모두 자동으로 설치하여 사용할 수 있습니다.
Linux, WSL 및 macOS:
curl -fsSL https://unsloth.ai/install.sh | sh
Windows PowerShell:
irm https://unsloth.ai/install.ps1 | iex
Unsloth는 Qwen, Gemma, DeepSeek, GLM, Kimi, MiniMax, DiffusionGemma를 포함한 거의 모든 모델의 추론 및 학습을 지원합니다.
또한 다음 기능을 사용할 수 있습니다:
- 모델을 GGUF, safetensors 또는 LoRA 어댑터로 내보내기
- 로컬 모델을 Claude Code, Codex, Hermes Agent, OpenClaw, Pi, OpenCode와 연결
- 학습 중 RAM 및 VRAM 사용량 원격/로컬 추적
- 보안 Cloudflare HTTPS 터널링을 통해 원격으로 Unsloth에 액세스 (마치 "LM Link"처럼!)
- 컴파일 시간을 줄이기 위해 매일 업데이트되는 AMD 최적화 llama.cpp ROCm 사전 빌드 사용
일반 pip 설치 방법:
uv pip install "unsloth[amd]"
이번 릴리스를 위해 협력해 준 AMD 팀에게 큰 감사를 드립니다! 어떤 AMD 하드웨어를 사용 중인지 알려주시고 피드백을 공유해 주세요. AMD 환경을 훨씬 더 개선할 수 있도록 노력하겠습니다!
릴리스 블로그에서 자세한 내용을 확인하세요: https://unsloth.ai/docs/basics/amd
