LiquidAI/LFM3-1.7B · 허깅페이스
LiquidAI/LFM3-1.7B · Hugging Face
핵심 요약
LiquidAI가 온디바이스 환경에 최적화된 1.7B 파라미터의 LFM3 모델 시리즈를 공개했습니다.
- LFM3-1.7B 공개 — 256K 컨텍스트 윈도우를 지원하는 에이전트 특화 텍스트 모델임
- 온디바이스 최적화 — 4비트 양자화 시 1GB 메모리로 휴대폰과 노트북에서 구동 가능함
- 다양한 멀티모달 모델 — 비전, 오디오, 옴니, 결정 모델 등 다양한 라인업을 포함함
- 트라이 하이브리드 아키텍처 — 효율적인 추론을 위해 합성곱과 어텐션 구조를 결합함
huggingface.co
원문 사이트로 이동
https://huggingface.co/LiquidAI/LFM3-1.7B-GGUF
liquidAI에서 전하는 소식:
LFM3-1.7B는 새로운 tri-hybrid 아키텍처를 기반으로 만든 로컬 에이전트 및 특화 애플리케이션용 텍스트 모델이야.
-
에이전트 학습: Hermes Agent, Pi, OpenClaw 같은 에이전트 환경에 맞춰 후학습을 거쳤고, 256K 토큰 컨텍스트 윈도우를 지원해.
-
엣지 디바이스 최적화: 4비트 양자화 기준 메모리를 1GB 정도밖에 안 먹어서, 폰이나 노트북 어디든 잘 돌아가.
-
특화 모델 제작: 단일 GPU로 빠르게 파인튜닝해서 니가 원하는 도메인, 형식, 도구에 딱 맞게 커스텀할 수 있어.
LFM3 제품군에 대한 자세한 정보는 공식 블로그 포스트에서 확인해 봐.
모델 상세 정보
LFM3 제품군은 베이스, 텍스트, 비전, 오디오, 옴니, 그리고 디시전 모델로 구성돼 있어.
| Property | Specification |
|---|---|
| Checkpoint | Post-trained, text-only language model |
| Parameters | 1.73B |
| Architecture | 24 layers: 13 gated short convolutions, 5 sliding-window attention, 6 global attention |
| Context length | 256K tokens (input + output) |
| Vocabulary | 128,000 tokens |
| Languages | English, Arabic, Chinese, French, German, Italian, Japanese, Korean, Portuguese, Spanish, Vietnamese, Thai, Indonesian, Hindi, Russian, Polish |
| License | LFM Open License v1.0 |
