소상공인을 위한 자체 호스팅 AI 에이전트 개발. GLM-5.1 기반 예약 건당 약 $0.15
Built a self-hosted agent for small businesses that writes its own skills. ~$0.15 per customer booking on GLM-5.1
핵심 요약
비전문가도 채팅으로 쉽게 온보딩할 수 있는 소상공인용 자체 호스팅 AI 에이전트 'Opentulpa'를 개발함.
- 직원 방식 온보딩 — 기술적 지식 없이 채팅만으로 업무와 워크플로우를 설정할 수 있음.
- 비용 효율성 — GLM-5.1 모델을 활용해 예약 건당 약 $0.15의 저렴한 운영 비용을 달성함.
- 자체 호스팅 구조 — SaaS 레이어 없이 사용자가 직접 인프라를 소유하고 관리할 수 있음.
- 에이전트 책임성 — 에이전트가 스스로 스킬을 생성하고 관리하며, 필요시 인간에게 보고하는 구조를 갖춤.
꽤 오랫동안 이 작업을 해왔고, 드디어 몇몇 소상공인들을 위해 프로덕션 환경에서 실행되는 지점에 도달해서 공유해 보려고 합니다.
"AI 직원" 제품들에 대해 계속 거슬렸던 점은 비기술직 오너가 실제로 설정할 수 있는 제품이 하나도 없다는 것이었습니다. 4개의 블록으로 구성되어 아무것도 제대로 못 하는 노코드 빌더이거나, 설정을 마치려면 개발자가 되어야 하는 프레임워크뿐이었죠.
그래서 저는 Opentulpa를 만들었습니다. 아이디어는 사람을 채용하듯이 채팅으로, 평범한 영어로 온보딩하는 것입니다. 비즈니스가 무엇을 하는지 알려주고, 가지고 있는 파일(메뉴, 가격표, PDF, 스프레드시트, 심지어 CRM이나 이메일함을 읽고 이해하라고 시키는 등)을 넣고, 원하는 워크플로우를 설명하면 됩니다.
이 에이전트는 스스로 스킬과 스크립트를 작성하여 이를 수행하고, 텔레그램 비즈니스 계정과 연동되어 고객 DM을 처리하기 시작합니다. 매일 하는 일은 다음과 같습니다: 지식 베이스에서 제품/서비스 질문에 답변하기, 적절한 경우 업셀링하기, 구글 시트나 CRM에 고객 예약하기, 무언가 인간의 손길이 필요할 때 오너에게 알림 보내기, 직접 DM을 보낼 때 개인 비서 역할 하기.
제가 실제로 자랑스럽게 생각하는 몇 가지는 다음과 같습니다: 컨텍스트 관리와 메모리 롤업이 잘 튜닝되어 GLM-5.1에서도 문제없이 실행됩니다. 전체 상담 및 예약 대화는 보통 토큰 비용으로 약 $0.15 정도가 나옵니다. 이 수치가 저로 하여금 이것이 단순한 데모가 아니라 실제로 배포 가능한 제품이라고 생각하게 만들었습니다.
스킬 생성은 샌드박스에서 이루어지므로 모델이 뱉어내는 것을 무작정 실행하지 않습니다.
자체 호스팅이며, OpenAI 호환 API를 통해 추론합니다. SaaS 레이어는 없으며, 사용자가 전체를 소유합니다.
이곳에 계신 분들께 몇 가지 의견을 듣고 싶습니다:
에이전트가 얼마나 능동적이어야 할까요? 비즈니스에서 발견한 문제에 대해 스스로 해결책을 제시해야 할까요? "직원처럼 온보딩"이라는 프레임이 실제로 와닿나요, 아니면 잘못된 비유인가요?
참고로 'tulpa'라는 이름은 집중된 의도를 통해 만들어낸 사고 형태를 의미합니다. 적절해 보였거든요.)
