KoboldCpp 에이전트 기능 도입 (및 도움 요청)

안녕 r/localllama 형들, 나야 kobold concedo.

마지막으로 글 올린 지 몇 달 됐네. 오늘은 새로 가져온 게 좀 있어서 공유하려고. 바로 KoboldCpp에 내장된 KoboldCpp Agent Harness야!

좀 늦은 감이 있긴 한데, 다들 외부 에이전트 툴 설정하느라 골치 아파하는 거 보고 그냥 내가 직접 간단한 작업용으로 하나 만들었어.

이제 KoboldCpp에 에이전트 하네스가 기본으로 포함돼서 체크박스 하나만 누르면 바로 쓸 수 있어. Opencode, Codex, Claude Code 같은 툴들을 아주 가볍게 대체할 수 있다고 보면 돼. 툴 9개가 내장돼 있고, 시스템 프롬프트도 툴 다 합쳐서 2k 토큰밖에 안 먹어. 다른 하네스들보다 훨씬 가볍지.

• 코드 짜거나 수정하기, 간단한 게임이나 프로젝트 만들기, 아니면 파일 정리나 일정 관리 같은 일반적인 에이전트 작업에 딱이야.

• 쓰려면 GUI 런처의 Admin 탭에서 토글하거나, 실행 플래그에 --agent를 추가하면 돼. 그럼 새 터미널이 뜰 거야.

• KoboldCpp Agent는 서드파티 백엔드나 OpenAI Chat Completions 호환 엔드포인트랑도 연결 가능해.

• mcp.json 파일을 불러오면 툴을 더 추가할 수 있고, MCP 툴도 에이전트랑 공유돼. 참고로 MCP 툴은 KoboldCpp 서버에서 돌아가고, 에이전트 툴은 에이전트 클라이언트에서 돌아가.

• 툴 호출 승인 모드는 on/auto/off 3가지야. 툴 호출 승인할 땐 항상 조심하고.

• 제대로 돌리려면 최소 28k 컨텍스트에 8k 생성량은 확보해야 해. 더 높으면 더 좋고. 쾌적하게 쓰려면 VRAM 12GB 이상은 추천해.

• Qwen 3.6 35BA3B로 시작하려면 .kcppt 템플릿 받아서 최신 KoboldCpp에서 불러오기만 하면 돼.

• AGENTS.md 지원하고, 컨텍스트 압축 같은 기능도 많아.

• 에이전트 안에서 /help 치면 더 자세한 정보 볼 수 있어.

이건 에이전트가 이미지 정리하고 웹사이트 만드는 영상이야. 배경음악도 KoboldCpp로 만들었어.

.buffering-track-fill { stroke-dasharray: 100; stroke-dashoffset: 50; }

KoboldCpp 에이전트 쇼케이스

혹시 놓쳤을까 봐 말하는데, 이제 KoboldCpp에서 Minimax H3 모델로 영상 생성도 가능해 (참조 이미지 사용). 저번 릴리즈에 들어갔던 건데, 재밌는 영상 하나 만들어서 같이 공유해.