대화형 어시스턴트/에이전트로서의 Gemma4에 대한 찬사

유럽 언어들이랑 몇몇 아시아 언어들 사이에서는 꽤 번역 잘함.

동의합니다. Gemma 4는 솔직히 정말 인상적이에요. 구글의 상업용 모델들이 별로라는 걸 생각하면 더더욱요. 저는 채팅 기반 작업은 무조건 Gemma 4를 씁니다. 코딩은 Qwen 27B가 최고고요. 로컬 하드웨어에서 모델들이 발전하는 속도가 정말 놀라울 정도예요.

어떤 프로그래밍 언어 쓰는지, 그리고 컨텍스트 길이는 얼마나 됨?

난 스마트홈/집사 에이전트용으로 unsloth 26B Q5_K_XL 퀀트 모델 돌리는 중임. 스마트홈 제어, 에이전트식 리서치, 프로젝트 관리 같은 거 다 하고, 기본적으로 알렉사 역할에 내 프로젝트(자동차 튜닝, 집 수리, 3D 프린팅) 실무 준비까지 도와줌. 적절한 그라운딩(채팅 간 기억 유지를 위한 로컬 RAG 데이터베이스, 홈 상태/시스템 상태 확인용 툴, 구글 검색)만 해주면 진짜 개좋음. 자비스 페르소나도 잘 유지하고, 특히...

동감!! 나도 거의 비슷한 경험인데, 26B 버전보다는 31B가 더 낫더라. 난 Q3 unsloth UD 31B 퀀트 모델 쓰는데, 만능 개인 비서(일명 자비스)로 쓰기에 아주 훌륭함. 물론 코딩은 다른 모델을 쓰긴 하지만. 여기 사람들이나 테크 기업들은 코딩 성능이나 벤치마크 점수만 중요한 게 아니라는 걸 가끔 잊는 것 같음. 그냥 코딩 외적인 작업도 다 잘하고 말투도 좀 더 사람 같은 모델 하나 있는 게 최고지.

Gemma4 진짜 좋아 보이는데 내 환경에선 좀 어렵네. 인텔 iGPU 쓰고 있어서 SYCL로 돌려보려 했는데 가능한 방법을 못 찾겠고, 리눅스에서 Vulkan으로 돌리면 xe 드라이버 때문에 10초 타임아웃 걸리면서 뻗어버림. 찾아보니까 llama.cpp가 해결책이 될 수도 있다던데 아직 안 해봄.