Otaku — LLM 프론트엔드
Otaku — an LLM frontend
핵심 요약
롤플레잉과 일반 채팅에 최적화된 오픈소스 LLM 프론트엔드 Otaku를 소개합니다.
- 다양한 인터페이스 — 웹 UI와 터미널 UI를 모두 지원하여 사용자 편의성 제공
- 폭넓은 호환성 — Ollama, LM Studio 등 로컬 백엔드 및 클라우드 모델 연동 가능
- 간편한 설치 — uv 도구를 통해 macOS, Linux, Windows 환경에서 즉시 설치 가능
- 오픈소스 프로젝트 — MIT 라이선스로 배포되며 사용자 피드백을 적극 수용 중
Otaku는 주로 롤플레잉을 위해 만들어진 LLM 프론트엔드야. SillyTavern 같은 거 대체재라고 보면 됨. 근데 설정에서 lore extraction만 꺼주면 Open WebUI처럼 로컬 백엔드(Ollama 포함)나 클라우드 모델이랑 연결해서 일반적인 채팅용으로도 쓸 수 있어.
Otaku는 두 가지 인터페이스를 제공해:
-
웹 UI (커스텀 가능): https://otaku.sh/demo-web/ 에서 데모 확인 가능
-
터미널 UI: https://otaku.sh/demo-terminal/ 에서 데모 확인 가능
둘 다 기능은 똑같아. 차이점이라면 터미널은 슬래시 명령어로 실행하고(/help 치면 다 나옴), 웹 UI는 메뉴에서 클릭해서 쓰는 방식이라는 거 정도?
설치
Otaku는 무료 오픈소스(MIT 라이선스)고 macOS, Linux, Windows 다 돌아가. uv로 설치하면 돼(uv tool install otaku). 다른 설치 방법은 GitHub README 참고해: https://github.com/enclavum/otaku
시작하기
터미널용은 otaku, 웹 UI용은 otaku web을 실행하면 돼. 웹 UI 기본 주소는 http://localhost:9600 이야. 처음 실행하면 어떤 기능이 있는지, 플레이는 어떻게 하는지 감 잡으라고 샘플 스토리 두 개가 자동으로 들어있고, 바로 그중 하나가 켜질 거야.
처음 켜면 공급자랑 모델을 고르게 될 텐데, Otaku가 알아서 Ollama, oMLX, LM Studio, llama.cpp, KoboldCpp 같은 로컬 설치본을 다 찾아내서 거기 있는 모델들을 고를 수 있게 해줘. OpenRouter나 NanoGPT 같은 클라우드 서비스도 지원하니까 API 키만 넣으면 목록 쫙 뜰 거야. 샘플 스토리 좀 둘러보고 나면 /new 명령어로 직접 시작하면 됨.
