r/vibecoding•5개월 전•4•9
AI를 활용한 AI 구축
Using AI to build AI
핵심 요약
로컬 LLM과 WebGPU를 활용해 웹 브라우저에서 실시간으로 작동하는 AI 캐릭터를 구현한 프로젝트.
- 기술 스택 — LFM 2.5 1.2B 모델과 WebGPU, Three.js를 조합해 웹 환경에서 구동함.
- 실시간 상호작용 — 로컬 LLM을 통해 AI 캐릭터의 동적인 의사결정과 행동을 구현함.
- 현재 한계점 — 크롬 브라우저에서만 작동하며 모바일 지원 및 멀티 GPU 환경은 아직 미흡함.
- 향후 계획 — 로컬 TTS를 도입해 AI 캐릭터에게 음성을 부여할 예정임.
작은 LLM을 사용하여 동적인 AI 캐릭터를 구동하는 개념 증명 웹 앱을 만들었습니다.
도구:
-
코딩 하네스로 Opencode 사용
-
LLM으로 Github Copilot (GPT 5.5/Opus 4.7) 사용
-
IDE로 VS Code 사용
테스트 중인 몇 가지 사항:
-
로컬 LLM이 흥미로운 행동을 유도하고 동적인 의사결정을 가능하게 할 수 있는가
-
WebGPU 간섭을 실시간 상호작용을 구동할 만큼 충분히 좋게 만들 수 있는가
현재 접근 방식:
-
업데이트된 WebGPU 백엔드(WASM + C++)를 적용한 llama.cpp 사용
-
에이전트 사고 및 의사결정 루프를 위한 하네스 개발(WASM + TS)
-
three.js와 Next.js로 구축
-
캐릭터 AI를 구동하기 위한 기본 모델로 LFM 2.5 1.2B 사용
알려진 한계:
-
크롬에서만 작동하며, 아직 모바일은 지원하지 않음(주로 스레딩 처리 방식 때문)
-
멀티 GPU 지원 없음
