최고의 로컬 에이전트 - 2026년 6월

진작에 올라왔어야 할 메가스레드다! 지금 당장 쓸 수 있는 최고의 로컬 에이전트가 뭔지 다 같이 털어보고 토론해보자.

프롤로그

먼저 용어 정리부터 좀 하고 가자. 다들 대충은 알겠지만, 괜히 나중에 말 섞이지 않게 미리 짚고 넘어가는 게 좋을 것 같아서.

• 에이전트(Agent): 딱히 표준으로 정해진 정의는 없다. 당연한 소리겠지만. 이게 그냥 거품인지, 아니면 진짜 새로운 근본 기술인지 구분하기가 좀 애매하거든. 그래서 기존에 있던 것들이랑 비교해서 뭐가 다른지 짚어주는 게 중요할 것 같아. 내 생각엔 그냥 사용자가 입력한 걸 바탕으로 자율적/반자율적으로 움직이는 소프트웨어라고 보면 돼. IFTTT나 n8n, Apple Shortcuts처럼 미리 다 짜놓은 게 아니라, 스스로 경로랑 로직을 결정한다는 게 핵심이지. /r/AI_Agents에서 정의하는 거랑도 얼추 비슷해. 쉽게 말해서 pi, opencode, hermes 같은 것들을 말하는 거야.
• 하니스(Harness): 요즘 에이전트라는 말 대신 유행처럼 쓰이는 단어인데, 굳이 왜 쓰는지 모르겠어. 검색해봐도 딱히 합의된 정의도 없고. 굳이 따지자면 LLM+Harness=Agent 정도인데, 이건 마치 엔진+차체/바퀴/핸들=자동차라고 하는 거랑 똑같거든. 그냥 '자동차(에이전트)'에 대해 얘기하는 게 훨씬 생산적일 것 같아서 제목도 이렇게 정했다.

국룰:

여전히 유효하다..

지금 너희가 뭘 돌리고 있는지, 그리고 왜 그걸 쓰는지 공유해줘. 이 분야가 워낙 초기 단계라(기술은 미친 듯이 바뀌고, 벤치마크는 믿을 게 못 되고, 툴은 덜 익었고, 확률적인 요소도 크고) 평가하기가 참 까다롭거든. 그러니까 본인 세팅, 사용 목적(얼마나 쓰는지, 개인용인지 업무용인지), 어떻게 평가하고 있는지 등등 최대한 자세하게 적어줘. 예를 들어, "pi가 최고임" 같이 알맹이 없는 댓글은 토론 수준만 떨어뜨리니까 자제하고.

규칙

1. 에이전트는 반드시 오픈 웨이트 모델을 사용해야 함.
2. 에이전트는 반드시 로컬에서 돌아가야 함(본인이 직접 제어하는 하드웨어, VPC 포함).
3. OSS 에이전트 소프트웨어 위주로 토론하는 걸 강력 추천하지만, 꼭 그래야만 하는 건 아님. 왜냐고? Claude Code나 Codex가 현재로선 가장 완성도 높고 생태계도 크니까. 게다가 로컬 모델이랑 연동해서 쓸 수도 있고. 당장은 우리 중 상당수가 그걸 쓰고 있다는 현실을 무시할 수 없으니, 최소한 참고용으로는 허용하는 게 맞다고 봄.