r/LocalLLaMA•2개월 전•355•58
Llama.cpp, 이제 MCP 완벽 지원!
Llama.cpp now has full MCP support!
핵심 요약
Llama.cpp가 MCP 프로토콜을 공식 지원하며 로컬 모델 기반의 에이전트 구축이 훨씬 간편해졌습니다.
- MCP 완벽 지원 — 모든 프로토콜에 대한 stdio 서버 통합으로 로컬 에이전트 구현 가능
- 설정 방식 — JSON 설정 파일이나 명령줄 인라인 옵션으로 MCP 서버 구성 가능
- 에이전트 기능 — Serena 같은 도구를 연결해 외부 의존성 없이 로컬 모델 기반 코딩 에이전트 활용
- 웹 UI 통합 — llama.cpp 웹 UI를 통해 완전한 에이전트형 채팅 환경 제공
ngxson이 주도한 길고 고된 노력 끝에, 이제 llama.cpp가 모든 프로토콜에 대해 MCP를 완벽하게 지원합니다. 웹 기반 HTTP 서버는 이미 클라이언트에서 지원하고 있었지만(별도의 연결 작업이 필요 없으므로), stdio 서버는 실제 통합 작업이 필요했습니다. llama-cli 터미널 클라이언트가 별도의 모델 서빙 경로 대신 서버를 사용하도록 수정한 후, 기존의 네이티브 도구 서버에 MCP 지원을 추가할 수 있었습니다.
https://github.com/ggml-org/llama.cpp/pull/26062 가 병합된 이후, 이제 llama.cpp의 WebUI를 완전한 에이전트형 채팅으로 사용할 수 있습니다. MCP 서버 설정은 표준 JSON 형식의 설정 파일로 제공하거나, 필요에 따라 명령줄에서 인라인으로 직접 구성할 수 있습니다. Serena와 같은 전용 코딩 MCP 서버를 연결하면 외부 의존성 없이도 로컬 모델 기반의 에이전트 코더를 구축할 수 있습니다.
