r/LocalLLaMA•약 4시간 전•23•23
내 컴퓨터에서 실행 가능한 최적의 모델을 찾아주는 오픈소스 AI 리더보드를 만들었습니다
I made an open-source AI leaderboard that shows the best models your machine can run
핵심 요약
사용자의 하드웨어 사양에 맞춰 로컬에서 실행 가능한 AI 모델을 추천하고 벤치마크 점수를 비교해 주는 도구입니다.
- 모델 추천 도구 — RAM과 GPU 사양을 입력하면 실행 가능한 모델과 실행 명령어를 제공함
- 다양한 모델 지원 — LLM뿐만 아니라 이미지, 비디오, TTS, STT 등 다양한 모델 유형을 포함함
- 오픈소스 데이터 — 벤치마크 데이터와 스코어링 코드를 공개하여 누구나 기여 가능함
- 터미널 지원 — 웹사이트뿐만 아니라 curl 명령어를 통해 터미널에서도 즉시 확인 가능함
다들 안녕, whatmodel.sh 하나 만들었다.
사용법은 간단함:
-
니 램이랑 GPU 입력해라.
-
니 사양에서 로컬로 돌릴 수 있는 모델이랑 랭크, 그리고 실행 명령어 확인해라.
-
같은 점수대 API 모델들이랑 비교도 해보고.
만들면서 느낀 건데, 이제 32GB 맥으로도 GPT-5급 성능 내는 모델을 로컬에서 공짜로 돌릴 수 있더라 (예를 들면 Qwen3.8 27B 4-bit 같은 거).
각 모델은 공개된 벤치마크 결과 19,731개를 기반으로 점수를 매겼고, 모든 결과는 출처 링크를 달아놨다. 방법론은 whatmodel.sh/method 여기 있고, 데이터랑 점수 산정 코드, 벤치마크 스크립트는 전부 오픈소스임: github.com/jakemanger/whatmodel
터미널에서도 바로 쓸 수 있다: curl whatmodel.sh
기여하고 싶으면 실제 tok/s 측정하는 벤치마크 스크립트 돌려주거나, 깃허브에 새로운 모델이랑 벤치마크 점수, 출처 제보해주면 됨.
