Qwen3.8-Flash-Next. 가중치가 공개되면 의외로 로컬 친화적인 아키텍처가 될지도 모름. 👀

설명 10점 만점에 10점이다

자세한 내용이 궁금하면 이 논문이 관련 있을 듯: https://arxiv.org/abs/2601.07372v1

세 줄 요약: 같은 FLOPs와 파라미터로 베이스라인 모델보다 성능이 더 잘 나옴

앱들이 이 새로운 기능을 지원하려면 좀 작업이 필요하겠네.

다른 사람들보다 훨씬 먼저 프리뷰 버전을 받은 게 아니라면, 이미 작업 대부분이 끝났을 수도 있겠지만.

이런 개념들을 이렇게 이해하기 쉽게 설명하는 능력이 진짜 부럽네.

이 새로운 모델 얘기할 때 "n-gram"이랑 "engram"이 혼용돼서 쓰이는 것 같아서 좀 헷갈리네. 이 기술이 뭔지 찾아보니까 언어 모델에서 "engram"이랑 "n-gram"은 완전히 다른 개념이던데. Qwen이 말하는 건 DeepSeek의 "engram"을 의미하는 거겠지?

누가 n-gram 테이블이 왜 지금 모델에 포함되는지 설명해 줄 사람?

내가 이 분야 연구를 좀 해서... 도움을 줄 수 있을지도 모르겠네. 난 Llama 1b랑 8b에 Engram을 붙여봤거든.

Engram 모델은 원래 DeepSeek v3 연구에서 나온 거야.

걔네가 찾아낸 건데, 일련의 룩업 테이블을 학습시켜서 시스템 RAM에 유지할 수 있다는 거지.

이 룩업 테이블을 여러 레이어에 주입하면 모델이 가중치에 인코딩할 필요 없이 개념을 이해하는 데 도움을 줄 수 있어. 예를 들어, 테이블이 2개 있다고 치면...

상황에 따라 다르겠지만, 여기 댓글에 있던 램 96GB에 VRAM 24GB 쓰는 사람 빌드에는 들어갈 듯. Colibri 같은 빌드 매니아들한테도 맞을 거야. N-Gram은 분명히 램 대신 NVMe를 쓰려고 할 텐데, PCIe 4.0이면 아마 충분히 쓸만할걸. 결론적으로 진짜 돌리고 싶으면 VRAM 12GB에 램 64GB로도 가능은 하겠지만, 당연히 엄청난 양자화가 필요하겠지.

링크 필요한 사람들을 위해: https://huggingface.co/Qwen/Qwen3.8-Flash-Next - 미국 동부 시간으로 내일 오전 11시인 듯. (지금부터 21시간 조금 넘게 남음.)

음, Qwen Coder Next랑 비슷하다면 정말 좋을 것 같아. Qwen Coder를 왜 그렇게 다들 깠는지 이해가 안 갔거든. 엄청 빨랐고 세상 지식도 좋았는데. 35b a3b보다 확실히 나았고 오랫동안 잘 썼음.

내가 기억하기론 비전 기능이 없었어. 나한테는 요즘 에이전트 작업에 비전이 훨씬 중요해서.