r/LocalLLaMA•27일 전•39•65
128GB 환경에서 최고의 SVG 펠리컨을 생성하는 로컬 모델은?
Which current local models that can run within 128GB generate the best SVG pelicans?
핵심 요약
128GB 메모리 환경에서 다양한 로컬 LLM의 SVG 이미지 생성 성능을 펠리컨 프롬프트로 테스트한 결과입니다.
- 모델 테스트 — 128GB 환경에서 Qwen3.8 및 DeepSeek V4 등 주요 모델의 SVG 생성 성능 비교함
- 양자화 영향 — 2비트 양자화로도 충분한 성능을 낼 수 있으며 모델별로 결과 차이가 있음을 확인함
- 펠리컨 벤치마크 — 특정 프롬프트에 최적화된 모델 성능을 측정하는 방식에 대한 커뮤니티 논의가 활발함
- 향후 과제 — 펠리컨 외에 다른 동물이나 더 창의적인 프롬프트로 테스트하자는 의견이 제시됨
128GB Apple Silicon에서 돌아가는 제일 큰 로컬 LLM들로 사이먼 윌리슨(Simon Willison)의 그 유명한 pelican riding a bicycle 프롬프트를 돌려봤다. Unsloth 양자화 모델 썼음.
Qwen3.8 Flash-Next는 디테일이 아주 살아있네. 근데 DeepSeek V4 Flash는 이상할 정도로 별로임. Qwen3.8 27B는 여전히 깡패고, 특유의 일관된 미니멀리즘이 딱 내 취향이다.
Qwen3.8 27B가 31GB면 여전히 무겁냐고? 맞음! 근데 이런 작업에는 2비트 양자화(12GB 정도)만 써도 결과는 똑같음. 좀 복잡한 코딩할 때도 4비트면 차고 넘친다. RTX 카드 정도면 충분함!
참고해라:
-
Benchmarking Qwen3.8 27B quantizations: 4-bit holds up, 1-bit collapses - Terminal-Bench 2.1, GPQA Diamond 및 IFBench
