로컬 LLM을 3D 프린터처럼 쓰게 됨
I've found myself using Local LLM's like 3D printers.
핵심 요약
로컬 LLM을 활용해 개인 맞춤형 소프트웨어를 직접 설계하고 제작하는 새로운 생산성 방식에 대한 공유.
- 로컬 LLM 활용 — 3D 프린터로 물건을 뽑듯 필요한 소프트웨어를 직접 설계 및 제작함.
- 개인 맞춤형 도구 — 기존 앱의 제약에서 벗어나 자신의 워크플로우에 최적화된 에이전트 시스템을 구축함.
- 다양한 적용 사례 — 게임 모딩, 가전 제어, 경로 분석 등 일상적인 문제를 해결하는 도구들을 개발함.
- 기술적 환경 — 고성능 하드웨어와 로컬 LLM을 결합해 외부 의존성 없이 독립적인 개발 환경을 운영함.
3D 프린터 있는 놈들은 다 알겠지만, 집구석에서 뭐 하나 부러졌을 때 브라켓 새로 뽑거나, 케이블 정리대, 스팀덱 거치대 같은 거 만들 때 진짜 개꿀이잖아.
예전에는 필요한 앱이나 소프트웨어, 게임 같은 게 없으면 코딩할 줄 알면서도 귀찮아서 그냥 돈 주고 사거나 최신 버전 다운로드해서 쓰는 게 일상이었거든.
올해 초에 운 좋게 가격 오르기 전에 Minisforum MS-S1 395+ Max를 하나 건졌는데, 통합 메모리가 128GB나 돼서 지금 시스템 32GB, VRAM 96GB로 세팅해서 쓰고 있음.
처음엔 Qwen 3.6 27B나 3.6 35B moe 돌리다가 지금은 3.8 27B uncensored 쓰고 있는데, Q8 퀀타이즈에 256k 컨텍스트까지 아주 널널하게 돌아감.
이제는 뭐 필요한 프로그램 있으면 굳이 찾으러 안 다니고, 내가 세팅해둔 커스텀 에이전트 프레임워크로 몇 시간 만에 뚝딱 만들어 쓰는 게 습관이 됐다.
내가 만든 것들 어디 내다 팔 건 아니지만, 매일매일 기능 추가하는 재미가 쏠쏠함. 예를 들어 지금 이 글 쓰는 동안에도 아침에 일어나서 생각했던 아이디어가 벌써 완성됐거든. 일본 비주얼 노벨이 하도 많아서, Exe 파일에 후킹 걸거나 OCR로 텍스트 따서 로컬 LLM으로 번역해주는 앱 하나 만들까 싶었는데, 벌써 다 만들어서 테스트만 하면 됨.
지금까지 성인 게임 12개(야겜 코딩은 하지 마라), 집안 관리용 AI, 코딩 프레임워크, 내가 하는 게임들 싹 다 관리하고 공략이나 위키 긁어오는 게임 앱, 스카이림 모드 17개, 폴아웃 뉴베가스 모드 12개, 집안 온도 추적 시스템(RSS 피드 긁어서 중앙 난방 온도 설정 추천해줌), 내 전동 스쿠터용 매핑 소프트웨어(평소 다니는 길에 공사 중이거나 인도 막혔는지 확인해줌)까지 다 만들었다.
그 외에도 자잘한 트윅이랑 테스트 프로그램은 수백 개는 될 듯.
너네도 나처럼 이렇게 써먹는 놈들 있냐?
