r/LocalLLaMA•약 3시간 전•20•28

다들 어떤 채팅 인터페이스 쓰시나요?

What do you guys use for chat interface?

핵심 요약

Claude와 같은 깔끔한 사용자 경험을 제공하는 로컬 LLM 채팅 인터페이스를 찾는 질문에 다양한 도구들이 추천되었습니다.

추천 도구 — OpenWebUI, SillyTavern, LibreChat 등이 언급됨
사용자 경험 — Claude와 같은 깔끔하고 직관적인 인터페이스를 선호함
개발자 방식 — 직접 도구를 만들거나 llama.cpp를 활용하는 사례도 존재함
기술적 한계 — 긴 프롬프트 입력 시 많은 인터페이스가 오류를 일으키는 문제 공유

코딩할 때는 Pi/OpenCode를 쓰는데 이게 여전히 제일 대세인 것 같거든. 근데 너네는 일반 채팅용 인터페이스로 뭐 쓰는지 궁금해서 물어본다.

harness 관련해서 얘기 나온 지 몇 달 된 것 같은데, 그때는 보통 이런 게 인기였거든:

일반적인 용도로는 OpenWebUI
롤플레잉은 SillyTavern
자율 에이전트는 Hermes Agent

개인적으로는 Claude 인터페이스 같은 걸 찾고 있어. 딱 꼬집어 말하긴 힘든데, 너무 코딩 툴 같지도 않고, 검색 엔진 같지도 않고, 그렇다고 비서 느낌이 너무 강하지도 않거든. 딱 적절하게 섞여 있는 느낌인데, 이게 harness 때문인지 모델 때문인지는 잘 모르겠네. 어쨌든 너네 생각은 어떤지 좀 알려줘.

원문

커뮤니티 목록

r/LocalLLaMA•약 3시간 전•20•28

다들 어떤 채팅 인터페이스 쓰시나요?

What do you guys use for chat interface?

핵심 요약

Claude와 같은 깔끔한 사용자 경험을 제공하는 로컬 LLM 채팅 인터페이스를 찾는 질문에 다양한 도구들이 추천되었습니다.

추천 도구 — OpenWebUI, SillyTavern, LibreChat 등이 언급됨
사용자 경험 — Claude와 같은 깔끔하고 직관적인 인터페이스를 선호함
개발자 방식 — 직접 도구를 만들거나 llama.cpp를 활용하는 사례도 존재함
기술적 한계 — 긴 프롬프트 입력 시 많은 인터페이스가 오류를 일으키는 문제 공유

코딩할 때는 Pi/OpenCode를 쓰는데 이게 여전히 제일 대세인 것 같거든. 근데 너네는 일반 채팅용 인터페이스로 뭐 쓰는지 궁금해서 물어본다.

harness 관련해서 얘기 나온 지 몇 달 된 것 같은데, 그때는 보통 이런 게 인기였거든:

일반적인 용도로는 OpenWebUI
롤플레잉은 SillyTavern
자율 에이전트는 Hermes Agent

주요 댓글

r/localllama

사용자들은 OpenWebUI, SillyTavern, LibreChat 등 다양한 도구를 추천하며, 각자의 환경에 맞춰 직접 도구를 개발하거나 llama.cpp를 활용하는 등 다양한 방식을 공유하고 있습니다.

llamacpp 빼고는 전부 직접 만든 거 씁니다.

상남자네

아뇨. 메모장으로 코드를 한 줄 한 줄 다 짰으면 상남자였겠죠.

기본적인 작업(searxng mcp 서버를 이용한 웹 검색)에는 llama.cpp 내장 웹 UI를 쓰고, 창작 글쓰기나 주입되는 내용을 완전히 제어해야 할 때는 SillyTavern, 프로그래밍에는 VS Code 안에서 kilo code를 씁니다.

llama.cpp 웹 UI는 가볍게 유지하기에 정말 좋은 선택이죠. searxng를 mcp 서버로 써본 적은 없는데 그거 똑똑하네요.

Claude 같은 느낌을 원하신다면 OpenWebUI가 꽤 근접하지만, 테마를 어떻게 설정하느냐에 따라 다릅니다. 기본 스킨은 좀 밋밋하지만 몇 가지 조정만 거치면 너무 기업용 느낌 나지 않으면서도 세련된 느낌을 줄 수 있어요.

Openwebui, Opencode 그리고 SillyTavern도 씁니다.

그 외에는 그냥 Opencode에 있는 에이전트한테 파이썬으로 gradio 인터페이스 만들어달라고 시켜요.

Msty Studio가 취향에 맞는지 한번 보세요: https://msty.ai/studio

저희는 이거 4년 넘게 개발해오고 있습니다.

Openchamber요. Opencode 위에 얹어서 쓰는데 원격 서버에 두고 여러 세션을 돌릴 수 있어서 좋습니다. 깔끔하고 지금은 Claude 데스크톱보다 기능도 더 많아요.

제가 직접 만든 hotdog를 쓰고 있는데, 아직 UI가 별로라 여기서 추천하긴 좀 그렇네요.

아직 UI가 별로라 여기서 추천하긴 좀 그렇네요.

아직 윈도우 3.1 핫도그 스탠드 테마를 구현 안 해서 그런 거 아닌가요? 그래픽 디자인과 UI 엔지니어링의 정수에서 나온 객관적으로 가장 아름다운 테마인데 말이죠. hotdog에 도입하기 전에 완벽하게 구현하고 싶으신 마음은 이해합니다.

llama.cpp 자체를 쓰거나 Unsloth studio를 씁니다(어차피 학습용으로 스튜디오를 띄워두니까요). Atomic, Chatbox, AnythingLLM 등등 많이 써봤어요.

그리고 채팅용으로는 그냥 pi도 자주 씁니다. 터미널만 쓰신다면 선택지가 별로 없죠.

한 가지 이상한 점은, 큰 프롬프트를 넣으면 거의 모든 인터페이스가 맛이 가버린다는 겁니다. 보통 제대로 된 오류 메시지도 안 뜨거나 아예 반응이 없죠. 한번 해보세요. 보통 사양서 문서에 들어갈 내용을 그대로 붙여넣으면 다들 터져버릴 겁니다. 흔치 않은 경우긴 한데 흥미롭더라고요.

원문r/LocalLLaMA