Gemma 4 26b는 완벽한 올라운더 로컬 모델이며, 성능이 놀라울 정도임.

한 달 전쯤 64GB 메모리 맥을 샀는데, 적당히 빠르면서 코딩도 잘하고 시스템에 무리를 주지 않는 모델을 찾고 있었음. 테스트로 HTML과 JS로 Doom 스타일 레이캐스터를 만들게 해봤음.

I've been told qwen 3 coder next가 왕이라고 들었는데, 좋긴 하지만 4bit 버전은 내 시스템을 한계까지 몰아붙였음. 4bit 버전이라 그런지 모르겠지만, 도구 사용을 놓치고 올바른 파라미터를 추측하는 루프에 빠지곤 했음. Doom 테스트에서는 보통 해내긴 했지만, 한참 동안 잘못된 도구 호출 루프에 빠진 뒤에야 괜찮은 결과물을 내놨음.

Qwen 3.5(30b 근처 MoE 버전)는 내 경험상 절대 못 했음. 항상 생각 루프에 빠져서 스스로 확신을 잃고 같은 파일을 계속 다시 쓰다가 결국 끝내지 못했음.

근데 Gemma 4는 그냥 박살 내버렸음. 프롬프트 3번 만에 작동하는 걸 만들어냄. 속도도 엄청 빨랐음. 생각하는 과정을 제한해서 세부 사항에 너무 매몰되지 않고 그냥 해버렸음. 로컬 모델을 돌리면서 이상한 거 없이 진짜 잘 작동해서 놀란 건 이번이 처음임.

로컬 모델의 미래가 기대됨. 2~3년 안에 Sonnet 같은 모델들과 경쟁할 수 있는 아주 유능한 로컬 모델을 쓸 수 있게 될 거라 확신함.