4B 파라미터 모델 Mica v0.1, 첫 시도 만에 마인크래프트 서바이벌에서 다이아몬드 획득. 빈 인벤토리에서 26번의 결정으로 성공.

4B 파라미터 결정 모델인 Mica를 만들고 있는데, 시뮬레이션이 아니라 실제 마인크래프트에서 어디까지 가능한지 테스트해 봤음. 새 월드, 빈 인벤토리, 목표는 다이아몬드 곡괭이 제작.

지난번에 올렸을 땐 철 곡괭이까지 만들었거든. 솔직히 그때는 20번 정도 시도해서 겨우 성공했고 엄청 불안정했음. 그 이후로 하네스를 엄청 뜯어고쳤는데, 이번엔 다이아몬드 곡괭이까지 한 번에 성공했다. 하네스 완성하고 나니까 첫 판에 바로 뽑아내더라.

결정은 총 26번 내렸고 게임 시간으로 8분 정도 걸림. 나무 캐고, 작업대 만들고, 나무랑 돌 곡괭이 만들고, 철이랑 석탄 캐서 화로 만들고 철 곡괭이까지 뽑음. 그 뒤로 y=2 지점까지 파고 내려가서 다이아몬드 3개 캐고, 그 자리에서 바로 작업대 깔아서 곡괭이 완성함. 결정 내리는 데 평균 108ms 걸렸음.

제일 마음에 드는 부분은 14번째 단계쯤인데, 플래너는 화로에 쓸 땔감으로 나무 판자를 만들라고 했거든? 근데 Mica가 그냥 석탄 캐러 가버림(0.69 vs 0.31). 그러고는 철 3개를 한 번에 다 구워버리더라. 솔직히 이게 훨씬 나은 판단이었음.

작동 방식은 이럼: 매 단계마다 Mica가 텍스트 형태로 게임 상태(인벤토리, 주변 블록, 체력, 지난 단계에 무슨 일이 있었는지)를 전달받고, 후보 명령어 몇 개 중에서 하나를 고르는 식임. 실제 이동이나 채굴은 Mindcraft 스킬을 사용하는 Mineflayer 봇이 수행함. 영상 오른쪽 패널 보면 결정 내용이랑 확률이 실시간으로 뜸. 봇은 가장 가까운 다이아몬드가 어디 있는지 알고 있어서, 굳이 찾으러 돌아다니진 않음.

분명히 말하는데, 4B 모델 혼자서 마인크래프트를 다 플레이한다는 소리는 아님. 내가 보여주고 싶었던 건 이 정도로 작은 모델도 봇 뒤에서 상황 파악하고 다이아몬드까지 가는 과정을 충분히 잘 해낼 수 있다는 거임.

조만간 하네스 공개할 예정임. Mica가 마인크래프트 채팅도 읽을 수 있게 만들 거라, 원하는 걸 입력하면 알아서 수행할 거임. 아이템 얻기, 제작하기, 따라오기 같은 간단한 건 잘 될 텐데, 집 짓기처럼 복잡한 건 좀 버벅댈 수도 있음.

그리고 v0.5 버전은 1~2주 안에 나올 듯. 아키텍처를 많이 바꿨고 v0.1에서 약했던 부분들을 집중적으로 추가 학습시켰으니까 성능 확실히 좋아질 거라 기대 중임. 4B JEV 계열 모델 중에서는 최상위권 찍는 게 목표임.

버전은 두 개로 나올 예정임: Mica v0.5 4B, 그리고 Mica v0.5 4B Distill Laya. 후자는 엄청 가벼워서 웬만한 PC에선 다 돌아감.

마인크래프트 쪽은 v0.5 정도면 엔더 드래곤 잡는 것까지 가능하지 않을까 싶음. 그거 염두에 두고 추가 학습도 빡세게 시켰거든. 장담은 못 하지만 성공하면 진짜 개쩔 것 같음 ㅋㅋ

아, 그리고 재밌는 사실 하나 알려주자면 Mica는 100% 바이브 코딩으로 만든 프로젝트임.

Model: https://huggingface.co/sky7350/Mica-v0.1-4B
Model code: https://github.com/akivet/Mica-v0.1-4B Minecraft harness: coming soon