r/LocalLLaMA•22일 전•625•199
TextGen이 네이티브 데스크톱 앱으로 출시되었습니다. LM Studio의 오픈소스 대안(구 text-generation-webui)
핵심 요약
유명한 로컬 LLM 도구인 text-generation-webui가 설치가 필요 없는 네이티브 데스크톱 앱으로 새롭게 출시되었습니다.
- 설치 불필요 — 별도의 설치 과정 없이 실행 파일만으로 구동되는 포터블 빌드 제공
- 개인정보 보호 — LM Studio와 달리 외부 서버로 데이터를 전송하지 않는 완전한 프라이버시 보장
- 고급 기능 — ik_llama.cpp 지원, 웹 검색, 도구 호출(Tool-calling), PDF 추출 등 다양한 기능 탑재
- API 호환성 — Claude Code 등과 완벽하게 연동되는 OpenAI 및 Anthropic 규격 API 지원
안녕하세요 여러분,
제 프로젝트에 많은 업데이트를 진행했고, 이곳에 공유하고 싶었습니다.
TextGen(이전 명칭 text-generation-webui, 제 사용자명인 oobabooga 또는 ooba로도 알려짐)은 LLaMa와 llama.cpp가 존재하기 전인 2022년 12월부터 개발되어 왔습니다.
지난 두 달 동안, 이 프로젝트는 웹 UI에서 Windows, Linux, macOS용 설치가 필요 없는 데스크톱 앱으로 진화했으며, 세련된 UI를 갖추게 되었습니다. 이를 위해 매우 미니멀하고 우아한 Electron 통합 환경을 만들었습니다. (LM Studio도 Electron 위에서 돌아가는 웹 UI라는 사실을 알고 계셨나요? 많은 분들이 모르시는 것 같더군요.)
작동 방식은 다음과 같습니다:
- 릴리스 페이지에서 포터블 빌드를 다운로드합니다.
- 압축을 풉니다.
- textgen을 더블 클릭합니다.
- 창이 나타납니다.
설치 과정은 없으며, 압축을 푼 폴더 외부에는 어떤 파일도 생성되지 않습니다. 완전히 독립적으로 작동합니다. 모든 대화 기록과 설정은 빌드와 함께 제공되는 user_data 폴더에 저장됩니다.
CUDA, Vulkan, CPU 전용, Mac(Apple Silicon 및 Intel), ROCm용 빌드가 준비되어 있습니다.
차별화된 기능은 다음과 같습니다:
- 완전한 개인정보 보호. LM Studio와 달리 실행할 때마다 OS, CPU 아키텍처, 앱 버전, 추론 백엔드 선택 사항을 외부로 전송하지 않습니다. 외부 요청이 전혀 없습니다.
- ik_llama.cpp 빌드 (LM Studio와 Ollama는 기본 llama.cpp만 제공합니다). ik_llama.cpp는 SOTA 양자화 정확도를 가진 IQ4_KS 및 IQ5_KS와 같은 새로운 양자화 유형을 지원합니다.
ddgsPython 라이브러리를 통한 내장 웹 검색. 내장된web_search도구를 사용한 도구 호출(Qwen 3.6 및 Gemma 4와 완벽하게 작동)이나, 검색 결과를 텍스트 첨부 파일로 가져오는 "웹 검색 활성화" 체크박스를 통해 사용할 수 있습니다.- 3가지 옵션을 통한 도구 호출 지원: 단일 파일 .py 도구(자신만의 커스텀 함수를 만들기 매우 쉬움), HTTP MCP 서버, stdio MCP 서버. 도구 호출 시 실행 전 승인/거부 버튼이 표시되도록 설정할 수 있습니다. 여기에 가이드를 작성해 두었습니다.
