DGX Spark 2개 구매함. 신나면서도 혼란스럽네!

사용법을 모른다고 말한 적 없어. 이 서브레딧이나 DGX Spark 서브레딧에는 정보가 없어서 최신 자료를 어디서 찾는지 물어본 것뿐이야.

내 잘못이야, 전략 없이 구매한 것처럼 보였거든. 서드 파티 레시피를 시도하기 전에 공식 레시피를 먼저 사용하는 걸 추천해.

물어봤지. 정보가 항상 구식이고 최신 주차에 최적화되어 있지 않아. 시작하는 데는 도움 될지 몰라도 성능 경쟁에서는 이길 수 없어.

여기 있는 대다수 사람들은 4~16GB VRAM과 16~32GB 시스템 메모리를 써. 가끔 부유한 사람들이 GLM이나 Deepseek 같은 대형 모델 이야기를 하는 걸 듣긴 하지만, 그런 모델들은 접근하기 너무 어렵고, 소프트웨어 개발용으로는 Qwen 3.8 Flash Next가 훨씬 좋고 빠르거든. 그래서 GLM을 돌리려는 너는 아주 제한된 소수 그룹에 속해 있는 거야.

내 생각엔 Flash Next가 핵심인 것 같아. 다른 모델들보다 훨씬 작지만, 적절한 양자화만 거치면 소프트웨어 개발 분야에서는 비슷한 체급의 성능을 내거든. 다른 모델들이 세계 지식 면에서는 이기겠지만, 이 서브레딧은 그런 쪽엔 별로 관심이 없는 것 같아.

우린 부자가 아니야, 전혀 아니지. 그저 커리어 사다리를 좀 더 올라갔고 취미에 쓸 가처분 소득이 조금 더 있을 뿐이야.

eugr/spark-vllm-docker에 BX12 경로와 작동하는 2x Spark용 GLM 5.3 NVFP4 레시피가 있어. 몇 주째 쓰고 있는데, 가장 최신 dgx-os 이미지를 쓰고 있다는 점은 참고해.

속도랑 어떤 작업에 쓰는지 공유해 줄 수 있어?

이걸 실행해 봐: https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks
메인 서버("헤드"/Spark 1대)에 https://opencode.ai/를 설치하고 -> 해당 레포를 git clone 한 다음 -> opencode를 열고 /models를 입력해서 Muse Spark 1.3 Free(거기서 가장 성능 좋은 모델)를 선택해 -> [.env.example](https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks/blob/main/.env.example)를 .env로 복사해서 설정하라고 시키면 돼.