r/LocalLLaMA•4개월 전•83•37
GPU 없이 PC에서 크롬의 초소형 Gemma4(일명 Gemini Nano) 바로 실행하기
Run Chrome’s tiny Gemma4 (aka Gemini Nano) directly on PC without GPU
핵심 요약
크롬에 내장된 Gemini Nano 모델을 별도의 설정 없이 간편하게 실행할 수 있는 크롬 확장 프로그램을 소개합니다.
- 간편한 실행 — 복잡한 설정 없이 크롬 확장 프로그램으로 Gemini Nano 구동 가능
- 하드웨어 요구사항 — 크롬 브라우저와 16GB RAM만 있으면 충분함
- 성능 및 특징 — GPU 없이도 노트북에서 초당 20토큰 이상의 빠른 속도 제공
- 기술적 논쟁 — 내장 AI API의 WebGPU 가속 여부와 모델 정체성에 대한 토론 진행
최근에 Gemini Nano가 몰래 다운로드됐던 거 다들 기억하지? 말을 걸어보면 기쁘게도 자기가 Gemma라고 대답해 줄 거야.
친구들이 관심은 있는데, 잠긴 문 열쇠 구멍으로 가여운 집요정한테 말 걸듯이 개발자 도구를 통해 대화하고 싶어 하지는 않길래, 5분 만에 대충 코딩해서 실행 확장 프로그램을 만들었어.
구글 크롬, 16GB RAM, 그리고 약간의 디스크 공간만 있으면 돼. llama.cpp도, vllm도 필요 없고, 복잡한 설정도 없어(재미없다는 건 알지만).
꽤 빠르고 부드러워. GPU 없는 내 노트북에서 초당 20토큰 이상 나오는 느낌이야. 정확한 속도 정보는 없지만. 전부 크롬이 알아서 처리해. 크롬 설정에 따라 세션당 9216 토큰을 사용할 수 있어. 모델은 크롬 안에서 완전히 로컬로 돌아가.
사용 사례라... 음, 구글이 내 맞춤법이 엉망이라는 걸 모르게 하려고 맞춤법 검사? 긴 인터넷 게시물 요약? 아니면 그냥 귀여워서?
어쨌든 여기 원클릭 설치 확장 프로그램이야:
아니면 조금 만져보고 싶고, Dobby(크롬의 집요정)라고 부르기 싫다면 여기 저장소가 있어:
