r/LocalLLaMA•약 3시간 전•112•54
가장 작은 Jev 스타일 모델
Smallest Jev-like model
핵심 요약
10M 파라미터와 6MB 용량으로 어디서나 실행 가능한 초경량 의사결정 모델 TinyDecide가 공개되었습니다.
- 초경량 모델 — 10M 파라미터와 6MB 용량으로 브라우저, Node.js, ESP32 등 어디서나 실행 가능함.
- Jev 아키텍처 — 빠르고 저렴한 의사결정 모델로 실용적인 틈새시장에서 주목받음.
- 활용 사례 — 안전 게이트웨이나 프롬프트 인젝션 방어 등 빠른 판단이 필요한 작업에 유용함.
- 과적합 논란 — 모델의 성능과 단순 유행 여부를 두고 사용자들 사이에서 의견이 갈림.
TinyDecide는 10M 파라미터를 가진 Jev 스타일 모델로, 용량이 고작 6MB 정도밖에 안 됨.
Decision Index 리더보드에 있는 그 어떤 모델보다 작으면서도 체급 이상의 성능을 보여줌.
브라우저, Node.js, Python, Rust는 물론이고 ESP32에서도 돌아갈 정도로 어디서든 잘 작동함.
