Pi Agent에서 LFM2.5-24-A2B 모델 사용 후기
Very impressed with LFM2.5-24-A2B in Pi Agent
핵심 요약
LiquidAI의 신규 모델 LFM2.5-24B-A2B를 Pi Agent에서 테스트한 결과, 뛰어난 속도와 안정적인 성능을 보여주었습니다.
- 모델 성능 — 기계적 작업에서 매우 안정적이고 빠른 속도 제공
- 하드웨어 효율 — 30GB VRAM으로 128k 컨텍스트 처리 가능
- 비교 평가 — Ornith 1.5-35B를 대체할 만한 강력한 워크호스
- 향후 테스트 — 코딩 및 작문 능력에 대한 추가 검증 필요
테스트하려고 새로 나온 LFm2.5-24B-A2B LiquidAI 모델 방금 다운받았다. 성능 좋다고 광고하던데, 이전 버전들도 꽤 괜찮게 썼던 기억이 있어서 기대 중임.
배경 좀 설명하자면, 난 평소에 Ornith 1.5-35B를 여러 워크플로우에서 아주 잘 써먹고 있음. 단독으로 쓸 때도 있고, Pi Agent에서 AI-Council 구성원으로 돌릴 때도 있는데, 진짜 믿음직함. "더 똑똑한" 모델들도 놓치는 통찰력을 보여줄 때가 많아서 Pi에서 아주 든든한 일꾼임.
그래서 Ornith 대신 LFM 24B를 내 워크플로우 몇 군데에 넣어봤는데, 와 진짜 잘 버틴다. 속도도 엄청 빠름 (AMD W7900에 ROCM 써서 최신 llama.cpp 빌드로 돌리니까 95 tps 정도 꾸준히 나옴). Q8 기준으로 128k 컨텍스트 다 채우면 VRAM 30GB 먹더라. 기계적인 작업 시킬 때 아직까지 에러 한 번 안 났고, 그냥 묵묵히 자기 할 일 다 함. 다른 GPU에 물려놓은 더 크고 똑똑한 모델 옆에서 보조용 "작은" 모델로 쓰기에 딱임.
"통찰력" 부분은 council-mode 워크플로우에서 좀 더 굴려봐야 알겠지만, 일단 써보고 나중에 후기 남기겠음.
그냥 이 모델에 대한 내 개인적인 생각(캐나다 달러 기준 2센트 가치 정도?)을 좀 적어봤는데, Pi랑 궁합도 좋고 시간 내서 써볼 만함. 속도만 봐도 업그레이드 체감 확실하고, 기본적인 작업이나 긴 재귀 작업 돌릴 때도 아주 깔끔하게 잘 돌아감.
LiquidAI 팀 진짜 칭찬해. 내 뚱뚱한 GPU에서 앞으로 엄청 굴려질 것 같다.
