소형 모델 및 작은 컨텍스트를 위한 확장 프로그램
Extensions for small models with small context
핵심 요약
소형 모델 사용 시 컨텍스트 효율을 높이고 결과물을 개선할 수 있는 확장 프로그램 추천을 요청함.
- 소형 모델 최적화 — Qwen3.5 및 Gemma 4b 모델의 컨텍스트 사용량 절감 방안 모색함.
- 확장 프로그램 추천 — 컨텍스트 압축 및 효율적인 토큰 관리를 위한 도구 정보 공유함.
- 성능 개선 경험 — 기존 플러그인 사용 시 겪은 성능 향상 및 저하 사례를 논의함.
소형 모델 쓸 때 결과물 퀄리티 높여주고 컨텍스트 사용량 줄여주는 확장 프로그램 뭐 있냐?
난 주로 Qwen3.5랑 Gemma 4(둘 다 4b 파라미터) 돌리는데, 컨텍스트는 128k로 쓰고 있어. 코딩하거나 LaTeX으로 글 쓸 때는 이 정도면 충분하더라.
pi-hashline-edit-pro나 rtk 같은 플러그인 몇 개 테스트해 봤는데, 어떤 건 확실히 체감 좋고 어떤 건 별로거나 오히려 더 구려지기도 하더라고.
다들 이쪽 환경에서 써보고 괜찮았던 패키지나, 성능 좀 뽑아낼 수 있는 설정 팁 있으면 공유 좀 해줘라.
