Qwen3.8-27B-UD-Q3_K_XL.gguf로 만든 마을 시뮬레이션 게임 POC - 16GB VRAM
Villager Simulation Game POC Created with Qwen3.8-27B-UD-Q3_K_XL.gguf - 16GB VRAM
핵심 요약
16GB VRAM 환경에서 Qwen3.8 모델을 활용해 개발한 마을 시뮬레이션 게임 POC와 기술적 경험 공유.
- 모델 설정 — 16GB VRAM에서 Q3_K_XL 양자화 및 kvarn KV 캐시 활용
- 성능 최적화 — MTP와 kvarn 최적화로 75t/s 속도 및 96k 컨텍스트 확보
- 개발 경험 — 점진적 프롬프트로 모듈화된 코드 생성 및 pi-observational-memory 활용
- 기술적 교훈 — 무조건 높은 양자화보다는 컨텍스트와 속도 간의 균형이 중요함
https://village-sim-one.vercel.app/
- 16GB VRAM RTX 5070 Ti, 전체 오프로드
- Vision은 CPU에서 구동
- Windows 환경, 헤드리스 아님
- beellama.cpp - 최신 버전 사용, kvarn 성능 개선 덕분에 qx_x 퀀트만큼 빠름
- MTP n-max = 2
- tg 최대 75t/s, pp 최대 1700t/s
- KV = kvarn3/kvarn3
- MTP draft KV = kvarn2/kvarn2
- 컨텍스트 = 96256
- tail 토큰 = 1024
- HTML/Javascript
- pi-observational-memory, pi-web-access, pi-atelier(UI 전용 변경 사항, 확인해 봐) 확장 기능을 포함한 pi 하네스 사용. 웹 액세스는 한 번도 안 씀.
- 이거 원샷(one-shot) 아님. 난 원샷이 좋은 테스트라고 생각 안 함. 대신 점진적인 기능 프롬프트를 여러 번 넣었음. 딱히 디자인이나 프레임워크는 안 줬는데, 아마 그 부분이 개선할 여지일 듯.
배운 점:
- Qwen3.8 모델 쓸 때 Q3 퀀트라고 겁먹지 마라.
- KV 양자화도 겁먹지 마라. VRAM 여유 있으면 당연히 쓰는 게 좋지만, 그거 때문에 CPU로 오프로드해서 tg가 5-20 t/s로 떨어지는 꼴을 보느니 차라리 낮은 퀀트 쓰는 게 낫다. 속도가 빠르면 문제 생겨도 후속 프롬프트로 훨씬 빨리 고칠 수 있고, 사실 그런 일도 거의 없음. 런타임 예외가 한 3번 정도 떴는데, 콘솔 출력 복붙하니까 바로 해결됨. 높은 KV 퀀트 썼다고 예외가 안 떴을 거란 보장도 없고.
- MTP/draft 캐시도 이제 kvarn으로 양자화 가능한데, 이게 VRAM을 실제로 아껴줌. qx_x 퀀트는 왜인지 VRAM 사용량을 늘리더라고. MTP에 kvarn2 쓰면 딱 좋고 수용률도 높음.
게임:
- 유명한 인디 게임에서 영감받음. 홍보하려는 건 아니고 그냥 내가 그 게임 엄청 좋아함.
- 더 이상 업데이트는 안 할 거임. 남의 밥그릇 뺏고 싶진 않거든. 이 게임 컨셉이 마음에 들면 원작 게임 꼭 해봐라. 올해 내가 한 게임 중에 단연 최고고, 내가 만든 것보다 1000배는 나음. AI랑 노는 것보다 훨씬 재밌는 시간 보낼 수 있을 거다. 난 그냥 이 모델이 어디까지 가능한지 궁금했을 뿐임. Cursor 구독 중이긴 한데 이 프로젝트엔 하나도 안 씀.
- 아마 개인적인 재미로 계속 개발은 하겠지만, 공개는 안 할 거임. 나만의 아이디어를 추가할 수도 있겠지만, 원작이 워낙 완벽해서 원작의 UI 불편한 점 몇 개 고치는 거 말고는 딱히 개선할 게 없음. 내 그래픽은 뭐 말할 것도 없이 원작에 비비지도 못하고.
게임 기능:
- 대형 맵, 브라우저 창보다 큼.
- 미니맵
- 마우스 휠로 줌 기능
- 자원 채집, 저장소로 옮겨야 함. 각 저장소마다 보관량 제한 있음.
- 추위 피하고 잠잘 집 필요함.
- 날씨와 계절 시스템.
- 낮밤 주기, 수면 시간 랜덤.
- 굶거나 밖에서 자거나 땔감 없는 집에서 자면 뒤질 수 있음.
- 게임 속도 조절.
- 주민들이 장애물 피해 다님.
- 건물 삭제/해체 및 자원 일부 환급.
코드:
- 코드를 거의 안 읽어서 어떻게 생겼는지, 퀄리티가 어떤지 잘 모름. AGENTS.md에 매직 넘버 쓰지 말고 모듈식으로 짜라고, HTML 하나로 퉁치지 말라고 힌트만 좀 줬음.
