1년 넘게 밤낮으로 매달린 Jenny 앱 개발을 마쳤습니다!

다들 안녕! 일단 나 진짜 너무 피곤하다 ㅋㅋㅋ. 그래, 또 다른 하네스(harness)가 나왔냐 싶겠지만, 나 진짜 취미 생활까지 다 포기해가면서 Jenny(XJ-9 같은 거) 앱 만드느라 시간이랑 노력 엄청 갈아 넣었어. Jenny는 로컬 LLM을 돌릴 수 있는 무료 MIT 라이선스 Electron 데스크톱 앱인데, 툴 콜링, 롤백, IDE 기능까지 다 들어있어.

아마 너희들도 1년이나 1년 반 전쯤에 나랑 똑같은 생각 했을걸? 지금 최신 LLM들은 사모펀드나 벤처 캐피털이 돈을 엄청 쏟아부어서 유지되는 건데, 나중엔 결국 돈줄 마르고 서비스 개판 될 거잖아. 그래서 난 로컬 LLM을 개인적으로 돌릴 수 있는 하네스를 만들기 시작했지. 지난 1년 반 동안 감으로 때려 맞추면서 수많은 시행착오를 겪었고, 결국 네이티브 Electron 데스크톱 앱으로 완성했어. 사람들이 쉽고 편하게 쓸 수 있게 만들고 싶었거든.

나 전문 개발자는 아니지만, 이쪽이랑 AI 기술에 관심이 엄청 많아. 근데 Jenny 프로젝트가 거의 투잡 수준이 돼버렸네. 그래도 이제는 출시해도 될 정도가 된 것 같아. 혼자서 만든 거라 진짜 재밌긴 했어. Unsloth Desktop(이거 진짜 최고임), LM Studio, Open WebUI 같이 나보다 먼저 나온 훌륭한 대안들이 많은 거 알지만, 그래도 누군가 Jenny를 써보고 즐겨줬으면 좋겠다! 앞으로도 계속 유지보수하고 개선할 생각인데, 나도 본업이 있고 챙겨야 할 친구들도 있어서 속도는 좀 느릴 수 있어. (이슈 등록은 환영인데, 제발 살살 다뤄줘!)

주요 특징:

• 개인적이고 로컬에서 실행됨. 로컬 모델 런타임 외에는 네트워크 호출 없음 (사용자 본인만 볼 수 있는 텔레메트리만 있어서 디버깅이나 문제 해결 가능)

• 완전 오픈 소스, MIT 라이선스

• 재밌고 예쁜 채팅 UI (내 기준)

• 작은 모델도 성능 좋게 만들어줌 (툴 콜링이랑 속도 때문에 ornith1.5:9b 강추!). 작은 모델이 삽질해도 걱정할 필요 없어. 안전 기능이랑 롤백 기능이 있거든. 위험한 셸 명령어는 승인이 필요하고, 파일 수정은 체크포인트가 남음!

• 직접 코딩하는 거 좋아하는 사람들을 위한 풀 IDE

• 모델이 읽고 수정할 수 있는 캘린더나 스크래치패드 같은 어시스턴트 기능

• 데이터가 풍부한 진단 및 로그

• llama.cpp, vLLM, 또는 OpenAI 호환 로컬 엔드포인트 지원, 관리형 llama-server를 통한 GGUF 지원 (MTP용)

이 프로젝트에 쏟아부은 시간과 정신적 고통이 헛되지 않았다는 걸 확인받고 싶으니 피드백 좀 많이 줘. 징징대긴 했지만 다 애정에서 나온 거 알지? Jenny가 너희들 작업에도 도움이 됐으면 좋겠다.

윈도우 빌드는 확실해 (5070ti에 ornith15:9b 돌리니까 성능도 잘 나옴). 맥이랑 리눅스도 지원은 하는데, 내가 가난하고 경험이 부족해서 테스트는 못 해봤어.

https://github.com/SaltyPretz3l/jenny

편의를 위해서 서명 안 된 .exe 설치 파일도 만들었는데, 못 믿겠으면 안 써도 돼! SmartScreen 경고 뜰 거야.