AMD가 공개한 오픈 소스 MoE 모델에 대한 커뮤니티의 반응과 하드웨어 홍보 목적에 대한 분석.
https://huggingface.co/amd/Instella-MoE-16B-A3B-Think
허깅페이스 둘러보다가 하루 전에 올라온 모델 발견해서 공유함. 아직 써보진 않았는데 AMD가 오픈 소스 모델 시장에 뛰어든 건 보기 좋네.
대부분의 사용자는 이 모델을 AMD 하드웨어의 성능을 입증하기 위한 기술 데모로 보며, 오픈 소스 생태계 기여에는 긍정적이나 마케팅과 지원 부족을 아쉬워함.
AMD가 이 모델을 낸 이유는 LLM 제작자들에게 자기네 하드웨어가 모델 학습에 충분히 좋다는 걸 보여주려는 거임.
아마 소프트웨어 쪽 문제일 듯.
하드웨어 성능 좋은 건 이미 알고 있고, 16B 모델 하나 나온다고 하드웨어 성능이 증명되는 것도 아니니까.
오 사이즈 딱 좋네. 며칠 전에 딱 이 정도 사이즈 MoE 보고 있었는데. A2B에서 A3B면 빠르면서도 여러 용도로 쓰기 좋지. 근데 AMD 마케팅 진짜... 허깅페이스에 다운로드 2번에 좋아요 3개 실화냐? 홍보도 안 하고 지원도 없는데 모델 내서 뭐함. 최소한 llama.cpp 포크라도 만들었어야지.
아마 쓸모없는 모델일 듯.
AMD의 학습 파이프라인을 보여주는 거 말고 이 모델의 존재 이유가 뭔지 궁금함. Qwen 3.5 4B한테도 밀리는데, 이게 실사용 목적이 있는 건지 아니면 그냥 기술 데모인지 모르겠음.
AMD 생태계가 현대적인 LLM을 만들 만큼 성숙했다는 걸 보여주는 거임. 다른 모델들과 달리 학습 파이프라인, 데이터셋, 체크포인트까지 전부 오픈 소스라 누구나 개선할 수 있고, AMD 입장에선 새로 산 AMD 하드웨어에서 돌리길 바라는 거겠지.
소프트 릴리즈라 해도 인텔이 배틀메이지 칩으로 하는 것보다는 생태계 지원에 훨씬 진심인 듯.
걔네는 이 일을 훨씬 전부터 해왔음. 이런 생태계를 개발하고 성숙시키려면 긴 시간이 필요한 법임.
경쟁력은 없을지 몰라도 데이터랑 학습 레시피까지 전부 오픈이라 다른 사람들이 더 발전시킬 수 있다는 건 대박임!
근데 진짜 참여하는 거 맞음? 이거 아파치 2.0 라이선스도 아니고, 연구용 전용 라이선스잖아.
Qwen3.5-4b는 덴스 모델임. 이건 활성 파라미터가 더 적음. 학습까지 전부 오픈된 상태임.
Qwen3.6-35B는 활성 파라미터가 3B밖에 안 되는데 덴스 Qwen3.5-9B보다 훨씬 좋아서 그 말은 틀림. AMD는 하드웨어 회사니까 벤치마크 점수 따기보다는 자기네 제품으로 학습이 가능하다는 걸 보여주려는 데모에 가까움.
dense 모델이냐 MoE냐 비교하는 건 의미 없음. 모든 지표에서 더 구린 모델인데 크기는 더 크고 리소스도 더 많이 잡아먹음. 3B 대 4B 수준에서 prefill이랑 decode 성능은 거의 없는 거나 마찬가지라 딱히 쉴드 칠 거리도 없음.
이 모델은 그냥 AMD 하드웨어용 기술 데모일 뿐임. 그리고 MoE는 dense 모델보다 더 복잡해서 과시하기에 더 좋지.
경쟁력이 없을지도 모름
내 말은 Opus 5나 뭐 그런 거랑은 (당연히) 경쟁이 안 되겠지만, 자기 체급 내에서는 경쟁력이 있지 않을까? GPT-OSS-20B도 작은 모델이긴 한데, 그래도 말이야.
미국 기업들이 비용 절감과 데이터 보안을 이유로 비싼 프론티어 AI 모델 대신 오픈 소스 모델로 눈을 돌리고 있음.
미국 기업들이 비용 절감과 데이터 보안을 이유로 비싼 프론티어 AI 모델 대신 오픈 소스 모델로 눈을 돌리고 있음.
Anthropic의 신모델들이 벤치마크를 휩쓸면서 OpenAI의 시장 지배력이 흔들리고 있다는 커뮤니티의 반응.
Anthropic의 신모델들이 벤치마크를 휩쓸면서 OpenAI의 시장 지배력이 흔들리고 있다는 커뮤니티의 반응.