소형 로컬 LLM을 위한 여전히 매우 가벼운 오픈 웹 검색 도구 - 이제 SearXNG 지원
Still a VERY lightweight open web-search tool for smaller local LLMs - now with SearXNG support
핵심 요약
소형 로컬 LLM을 위해 웹 검색 결과를 8k 토큰으로 최적화해 제공하는 TinySearch v0.2.0이 SearXNG를 지원하며 출시됨.
- SearXNG 지원 — 기본 검색 백엔드로 SearXNG를 도입하여 검색 유연성을 높임.
- LLM 최적화 — 웹 검색 결과를 8k 토큰으로 압축하여 로컬 LLM의 컨텍스트 오염을 방지함.
- 경량 도구 — Cline, Roo 등 에이전트 환경에서 가볍게 실행 가능한 오픈 소스 검색 도구임.
- 로컬 우선 — 외부 인프라 없이 로컬 환경에서 직접 실행 가능한 검색 레이어 제공.
여러분 안녕하세요,
TinySearch v0.2.0 (첫 안정화 베타 버전)이 출시되었습니다.
첫 번째 버전은 덕덕고를 직접 사용했는데, 아이디어를 증명하기에는 충분했지만, 하나의 검색 소스에 의존하는 건 너무 불안정했습니다. 지난 2주 동안 덕덕고가 제한이나 캡차를 더 자주 걸기 시작했는데, 아마 우리 중 얼마나 많은 사람이 이런 방식을 쓰는지 눈치챈 것 같습니다. 에이전트가 의존하는 MCP 도구로서는 그다지 좋은 상황이 아니죠.
그래서 v0.2.0부터는 TinySearch가 기본 검색 백엔드로 SearXNG를 사용합니다.
저장소:
https://github.com/MarcellM01/TinySearch
TinySearch의 기본 개념은 여전히 같습니다:
웹을 검색하고, 몇몇 페이지를 크롤링하고, 유용한 부분을 청크/검색/재순위화한 뒤, 무작위 페이지의 쓰레기 같은 내용을 프롬프트에 쏟아붓는 대신 8k 토큰으로 제한된 소스 기반의 압축된 컨텍스트 블롭을 소형 로컬 LLM에 제공하는 작은 오픈 소스 MCP/FastAPI 웹 검색 도구입니다.
v0.2.0의 변경 사항:
- SearXNG가 기본 검색 백엔드가 됨
- 직접 운영하는 SearXNG 인스턴스를 지정할 수 있음
- 검색이 더 유연해지고 특정 제공업체에 대한 의존도가 낮아짐
- 출력은 여전히 LLM 에이전트에 최적화되어 제한됨
- 여전히 로컬 우선이며, 가볍고 실행하기 쉬움
이 도구는 주로 Cline, Roo, OpenCode, MCP 에이전트 등을 사용하면서 30k 토큰의 스크랩된 쓰레기 데이터를 컨텍스트에 쏟아붓는 게 비효율적이라고 느끼는 분들을 위한 것입니다. 호출당 10~15초 정도 걸리는데, SearXNG가 오버헤드를 조금 추가했지만 편의성을 생각하면 감수할 만하다고 봅니다.
제대로 된 검색 인프라를 대체하려는 건 아닙니다. 전체 백엔드 스택 없이도 적절한 웹 컨텍스트가 필요한 에이전트를 위한 작은 연구용 레이어일 뿐입니다.
저는 현재 주로 qwen3.5-9B와 함께 사용 중이며, 라이브러리 버전이나 특정 함수 호출, 좀 더 생소한 Azure/GCP API 관련 질문 등 일상적인 작업에서 예상대로 잘 작동하고 있습니다.
피드백이나 비판 환영합니다. 특히 로컬 모델, MCP, Cline, Roo, OpenCode를 사용하시거나 직접 검색 서버를 호스팅하시는 분들의 의견을 기다립니다.
