Command A Plus GGUFs posted
llama.cpp에 추가된 Command A Plus 모델의 GGUF 변환 및 양자화 버전을 직접 제작해 공유함.
huggingface.co
원문 사이트로 이동
이번 주말 llama.cpp에 Command A Plus와 North Mini Code 지원이 추가되었습니다. Unsloth에 North Mini Code GGUF는 있지만, Command A Plus의 최신 GGUF를 찾을 수 없어서 제가 직접 변환하고 양자화했습니다!
LM Studio와 Unsloth Studio의 사용 편의성 및 버그 문제를 두고 사용자들 간에 의견이 갈리고 있습니다.
용량이 95GB 정도 부족하네
최저 퀀트 돌리기엔 아직 절반밖에 못 왔네 💔💔
q1e-9 돌리게 VRAM 좀 아껴줘라
필요한 사람 있을까 봐 다른 사이즈들도 올려뒀어:
https://huggingface.co/bartowski/command-a-plus-05-2026-GGUF
공유해줘서 고마워! Q3는 이제 너무 클 것 같아서(3090 3개 + 3060) Q2부터 먼저 시도해볼게.
오 대박, 고마워. 왜인지 Command A Plus에 대해선 못 들어봤네 (아마 지원이 부족해서 그런가?).
RAG 말고 다른 거 잘하는 거 있음?
직접 비교한 벤치마크 찾기가 힘드네, 이 모델을 위한 DS4 효율적인 러너를 만들어볼 좋은 기회가 될 수 있을까?
AA에서는 별로인 것 같은데. 창작 쪽 작업에는 괜찮으려나?
LM Studio에 아직 지원 안 됨? 어제 해봤는데 안 되던데, north 모델 말이야.
Unsloth Studio로 넘어가는 거 강력 추천함... LM Studio는 버그가 너무 많아서 왜 그렇게 인기 있는지 이해가 안 갈 정도임. Unsloth Studio는 오픈 소스이기도 하고, 무엇보다 제대로 작동하니까 좋음.
잘했네! 고생했어! 혹시 llama.cpp에서 shared experts는 GPU에 유지하고 레이어 일부만 RAM으로 오프로딩하는 추천 설정값 있어?
Unsloth 설치할 때 한동안 고생 좀 했음 (기억하기론 파이썬 의존성 문제였는데, 좀 오래되긴 함). 지금은 설치했는데 iGPU를 인식 못 해서 그런지 몇몇 기능이 꺼져 있더라고. UI도 딱히 직관적인지 모르겠고, 뭐랄까 LM Studio가 먼저 익숙해져서 그런지 정이 갔음. 난 아직 LMS 쓰면서 버그 겪은 적은 없음. 한때 Unsloth로 작은 모델 파인튜닝 해보고 싶어서 관심 많았는데...
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.
