billion context 확장 프로그램 써보신 분들 경험이 어떤가요?
What is everyone's experience with the billion context extension?
핵심 요약
pi.dev의 billion context 확장 프로그램을 사용해 본 사용자들의 경험과 설정 방법에 대해 질문하는 글입니다.
- 확장 프로그램 성능 — Qwen 27b 로컬 환경에서 128k 컨텍스트 문제 해결에 어려움을 겪음
- 자동 압축 기능 — 120-130k 컨텍스트 도달 시 자동으로 압축이 수행됨
- 품질 비교 — 기본 압축 방식이 더 나은 결과를 보여줄 때가 있음
pi.dev에서 [billion context](https://pi.dev/packages/billion-context) 다운로드 수가 꽤 늘어나는 게 보이더라고. 나도 써봤는데 Qwen 27b를 128k 컨텍스트로 로컬에서 돌릴 때 겪는 고질적인 문제들이 전혀 해결이 안 됨.
내가 설정을 잘못한 건가? 다들 이거 어떻게 쓰고 있는 거냐?
