r/LocalLLaMA•3개월 전•198•126논쟁
왜 아무도 마이크로소프트의 오픈소스 Fast Context에 대해 이야기하지 않는 거지!!!
Why is NO one talking about Microsoft's open source Fast Context!!!
핵심 요약
마이크로소프트가 공개한 코드 저장소 탐색용 경량 에이전트 'FastContext'에 대한 소개와 커뮤니티 반응.
- FastContext 기능 — 코드 저장소 탐색을 전담하는 경량 서브 에이전트임.
- 성능 및 효율성 — 토큰 사용량을 60% 이상 절감하며 벤치마크 성능을 개선함.
- 커뮤니티 반응 — 마이크로소프트의 행보에 대한 불신과 기존 도구와의 차별점에 대한 논쟁이 있음.
https://huggingface.co/microsoft/FastContext-1.0-4B-SFT
https://github.com/microsoft/fastcontext
FastContext-1.0은 LLM 코딩 에이전트를 위한 경량 저장소 탐색 서브 에이전트입니다. 단일 모델이 저장소 탐색과 작업 해결을 모두 수행하게 하는 대신, FastContext는 이 두 역할을 분리합니다. 메인 코딩 에이전트의 호출에 따라 병렬 읽기 전용 도구 호출(READ, GLOB, GREP)을 실행하고, 집중된 컨텍스트로서 간결한 파일 경로와 줄 범위를 반환합니다.
https://github.com/can1357/oh-my-pi/pull/3164
저는 개인적으로 oh my pi에 로컬 fast context 지원을 추가하고 있습니다. https://cognition.com/blog/swe-1-6 도 fast context와 비슷하거나 더 나은데, 제 oh my pi PR에서도 지원됩니다.
주요 특징:
- FastContext는 모든 주요 에이전트와 벤치마크에서 엔드 투 엔드 정확도를 향상시킵니다. 가장 큰 성능 향상은 SWE-bench Pro에서 나타납니다(예: GPT-5.4 +5.5, GLM-5.1 +5.0).
- 토큰 절감 효과는 최대 **60.3%**에 달합니다(SWE-QA의 GPT-5.4 기준).
- 경량 4B-RL 탐색기는 더 큰 30B-SFT 탐색기보다 뛰어난 성능을 보일 수 있습니다. 예를 들어 GLM-5.1 SWE-bench Pro에서 더 적은 토큰을 사용하면서도 22.5 대 20.0의 점수를 기록했습니다.
