내 '올인원 Anthropic/ChatGPT'가... 드디어 오픈 소스로 공개되어 깃허브에 올라왔습니다.

진작에 했어야 할 일인데, 이제야 드디어 LumaBrowser를 오픈 소스로 풀었다.

1년 전 처음 공개한 이후로 수천 번 넘게 설치됐고, 진짜 말도 안 될 정도로 많은 피드백을 받았다. 그동안 정말 많이 발전했지.

이걸 그냥 "상자 속의 Anthropic/ChatGPT"라고 부르는 게 아니다. 사실상 생태계 전체를 프로젝트 하나에 다 때려 박아 넣은 수준이니까. 다들 눈 굴리면서 비웃는 거 다 아는데, 진짜로 필요한 기능은 거의 다 들어있다. 심지어 LLM, 이미지, 음악, 음성 모델을 자동으로 세팅해 주는 온보딩 시스템까지 갖췄다.

기존에 쓰던 LM studio 설정 같은 것도 자동으로 싹 다 가져올 수 있다.

시스템 사양에 맞춰서 모델을 알아서 로드하고 언로드하고, 딱 우리가 기대하는 챗봇 에이전트처럼 작동한다. 이미지 생성해달라고 하면 알아서 프롬프트 짜고 툴 호출해서, LLM 내리고 이미지 모델 올린 다음에 그림 뽑고 다시 LLM 복구까지 다 한다.

로컬 네트워크용 웹 서버를 띄워서 같은 망에 있는 사람들이 접속하게 할 수도 있고, 여러 컴퓨터를 묶어서 클러스터로 만들거나, 포트 열어서 도메인 연결하고 친구들이랑 인터넷으로 공유할 수도 있다. 게임 모드도 자동으로 만들어서 친구한테 링크 던져주면 바로 접속 가능하고, LLM이랑 연동되는 훅까지 다 달려있다.

서버에 LumaBrowser 돌려놓고 클라이언트에서 원격으로 GPU를 마운트해서 쓰거나 LLM을 끌어다 쓰는 것도 가능하다.

에이전트 생성, 예약 작업, 시간별 작업, 트리거 작업 같은 건 기본이다.

코딩이나 데스크탑 작업용으로 쓸 수 있는 개쩌는 "luma" CLI 에이전트도 있고, JetBrains나 VS Code용 애드온도 내장돼 있다. 아니, 사실상 VS Code가 통째로 박혀 있다고 보면 된다. 귀찮으면 그냥 코드 모드 쓰면 되고.

상황이랑 캐릭터를 자동으로 업데이트해 주는 롤플레잉 확장 기능은 말할 것도 없다.

그 외에도 상상 이상으로 기능이 많다. RAM 여유 좀 있으면 모델을 계속 띄워놓는 RAM pinning 기능, 대화 캐시를 계속 따뜻하게 유지하려고 커스텀 빌드한 llama.cpp(필수는 아닌데 쓰면 RAM pinning이 좀 더 빨라짐), 툴 호출 라우팅을 위한 JEV 스타일의 커스텀 학습 모델까지 다 들어있다.

채팅 중에 생성된 라이브 아티팩트로 대시보드도 만들 수 있다. 기본으로 제공되는 "허브" 아이템을 쓰면 구글이나 MS 365 같은 데서 캘린더를 싹 다 가져와서 하나로 합칠 수 있고, ClickUp 같은 작업 리스트도 매핑해서 통합할 수 있다. 알림까지 가로채서 한곳에 모아두는 것도 가능하다.

왜 이렇게까지 하냐고? 그래야 내 로컬 AI 비서가 내 하루 일과, 할 일, 알림까지 전부 다 파악하고 맥락을 이해할 수 있으니까.

웹 서버 띄우면 라이브 탭 공유 기능도 쓸 수 있다. 브라우저 탭 우클릭해서 공유하면 다른 사람한테 URL 줘서 스트리밍으로 보여줄 수 있는데, 당연히 상호작용도 가능하다. 예를 들어 칠리스(Chilis)에서 주문하다가 와이프한테 탭 공유해서 각자 먹을 거 추가하게 하는 식으로 쓸 수 있다는 거지. (좀 뜬금없긴 한데 써보면 진짜 편하다.)