Mistral AI의 Mistral-Large-4-1T-A52B 모델 공개

2077년에 DDR2를 돌리고 있겠지.

몇 년 기다려 봤는데 말이야. 이번 주에 지금 쓰는 본체 부품 좀 구하려고 10년 넘은 PC에서 부품 적출했어. 요즘 가격이 너무 비싸서 새 거 사기가 싫거든. 3년 전에 샀던 RAM 스틱이 지금은 가격이 6배나 올랐어. 두 배로 더 사려고 했었는데... 그냥 기다리길 잘했지. 앞으로 몇 년 뒤가 어떨지 잘 모르겠네.

그냥 트랜스포머가 AI에 가져온 혁신처럼, VRAM 요구 사항을 획기적으로 줄여줄 기술적 돌파구가 나왔으면 좋겠어.

이건 이 모델이 여기 있는 더 작은 MoE 모델들(예: DS V4.1 1017)에 비해 크기 대비 학습이 상당히 부족하다는 걸 보여줌.

DS4.1이 더 작고 빠르며 '더 똑똑'하다는 점을 고려하면 로컬 AI용으로는 경쟁력이 없어. 그래도 Mistral이 드디어 비슷한 체급의 모델을 내놓은 건 잘한 일이지.

얼마 전까지만 해도 얘네가 소형 및 중형 모델(예: Nemo, Small, 8x22, 8x7 등)의 가장 인기 있는 공급자였다는 걸 생각하면 참 신기해. 로컬/오픈 생태계에서 지금 Qwen이나 Gemma가 차지하고 있는 자리를 얘네가 가지고 있었는데, 그냥 그걸 포기해 버린 거잖아(무거운 모델들과의 승산 없는 싸움을 하려고?). 🤷

네이티브 유창성을 마케팅 포인트로 잡은 게 흥미롭네.

인도네시아인으로서, 어색하지 않게 인도네시아어를 구사하는 오픈 소스 LLM은 대부분 제미나이, 클로드, GPT 정도였거든.

내가 테스트해 본 오픈 소스 모델 중에서는 Mimo, 딥시크, Qwen Max, Kimi 정도가 있었는데,

그나마 봐줄 만한 건 딥시크 V4 프로랑 Kimi였어. 둘 다 괜찮긴 한데, 미스트랄이 말하는 160개 이상의 언어에 우리 언어가 포함되어 있을지, 아니면 유럽 언어들만 초고도로 유창하고 나머지는 그냥 그럭저럭 들리는 수준일지 궁금하네. 그래도 연구소에서 대놓고 다국어 능력을 홍보하는 건 기대가 돼.

미스트랄은 도대체 무슨 비법이 부족한 걸까? 오픈 웨이트에 비교적 검열도 덜해서 좋긴 한데(아직도 그런가?), 차트 1위는 절대 못 찍는 것 같단 말이지...