JetBrains에서 코딩에 특화된 12B MoE 모델 'Mellum 2'를 공개했습니다.
JetBrains에서 만든 코딩 특화 소형 MoE 모델입니다. 추론 모델의 코딩 성능은 Qwen 3.5 9B 수준이라고 주장하지만, 그 외 모든 면에서는 Qwen 3.5 4B보다 떨어집니다.
모델: https://huggingface.co/collections/JetBrains/mellum-2
기술 보고서: https://arxiv.org/abs/2605.31268
새로운 모델인 Mellum 2에 대해 성능이 뒤처진다는 평가와 함께 더 나은 최신 모델을 추천하는 반응들이 주를 이룹니다.
JetBrains가 AI를 만들었는데 JetBrains에서만 잘 돌아가네. 역시나.
흥미롭네, llama.cpp 지원은 없고 vllm만 되는 거겠지?
이미 PR 올라와 있던데 https://github.com/ggml-org/llama.cpp/pull/23966
맞아, 근데 Qwen 3 아키텍처 기반이라 지원 추가하는 건 어렵지 않을 듯.
JetBrains가 LLM 학습에 관심 있다는 게 놀랍네. llama.cpp 구현까지 억겁의 시간이 걸리지 않길 바랄 뿐...
솔직히 서구권 기업들이 이런 거 더 안 하는 게 놀라울 따름임. 이 정도 사이즈 모델 학습시키는 게 (대기업 입장에선) 미친 듯이 비싼 것도 아니고, 평생 ClosedAI나 Anthropic에 의존 안 해도 되는 위치를 점할 수 있으니까 꽤 괜찮은 투자라고 봄.
인터랙티브 비주얼
팔로우함! 고마워! GGUF 나올 때까지 기다려야지. 12GB VRAM에 들어가는 또 다른 생각의 사슬(CoT) 모델을 기대하고 있었거든. 지금 DeepSeek-R1-Distill-Qwen-14B 쓰고 있는데 만족 중임.
Qwen3.5/3.6이나 Gemma 4 써봐라, 진짜 지릴 거다.
Thinking 버전이 (Instruct 버전보다) 벤치마크가 더 좋네. 15-20B 범위였으면 좋았을 텐데. 그래도 '가난한 GPU 클럽'에겐 (FIM 기능이) 여전히 괜찮음.
JetBrains는 이제 끝났어.
좀 더 자세히 말해줄 수 있어? 궁금해서 그런데 왜 그렇게 생각해? 이게 너무 뒤처져서 그런 거야?
왜냐면 걔네는 IDE를 만드는데, IDE는 이제 과거의 유물이거든. 기존 사용자 수는 줄어들 거고, 신규 사용자 수는 더 빨리 줄어들 거야. 지난 14개월 동안 나는 다른 개발자들처럼 IDE로 코딩하다가, 에이전트 변경 사항을 모니터링하고 활성 파일 컨텍스트를 관리하는 용도로 IDE를 쓰게 됐고, 이제는 IDE를 아예 켜지도 않아. 그냥 에이전트한테 시키는 것보다 직접 수정하는 게 빠른 작은 수정이 필요할 때만 Codex나 OpenCode에서 열어볼 뿐이지. 걔네는 2800명의 직원을 두고...
좀 더 자세히 설명해 줄 수 있냐? 관심은 있는데 왜 그런지 잘 모르겠네. 이게 성능이 너무 뒤처져서 그런 거냐?
그거 완전 고대 유물인데, 좀 더 최신 모델 써봐라.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
