Gemma 5 models soon ??
Gemma 5 출시 기대감과 함께 사용자들이 바라는 모델의 방향성에 대한 논의가 활발합니다.
사용자들은 Gemma 모델이 가진 독보적인 롤플레잉 성능을 유지하길 바라면서도, 출시된 지 오래된 모델의 성능 한계와 느린 업데이트 주기에 대해 다양한 의견을 나누고 있습니다.
이거 보니까 아직 시작도 안 한 것 같은데 😞
결과물만 제대로 나온다면야 전혀 상관없음. Gemini 4가 방금 출시된 걸 고려하면 지금 시작하는 게 말이 되지.
내 생각엔 걔네는 다른 팀들 아님? 잘 모르겠네
그렇긴 한데, 가끔 이런 식의 소통은 그냥 마케팅의 일환일 뿐임. 트윗 몇 개 올라온다고 해서 모델을 완전히 갈아엎을 리가 없잖아.
지능은 높이고 검열은 줄여라
Gemma 4는 꽤 검열이 없던데? 심지어 내가 재미로 고장 난 척하면서 마침표만 출력하게 시켰을 때도 다 해줬음. 이런 건 처음 봤음.
이거 점점 유행어처럼 되어가는 느낌이네.
Gemma 4는 너무 별로였으니까, 코딩은 적당히 하더라도 철학이나 다른 비코딩 추론 능력은 엄청나게 뛰어났으면 좋겠음. 코딩은 다른 모델들이 하게 두라고. 잘하던 거 계속 잘해줬으면 함. 이미 코딩 모델은 충분히 많이 나오고 있음.
배경을 좀 설명하자면, 나는 출시일(4월 2일) 이후로 매일 약 4시간씩 Gemma 4와 직접 상호작용해왔어(네덜란드어와 영어 둘 다).
나에게 중요한 순서대로 정리해봤어.
Gemma (학습) 관련:
범용성, 대화, 자연어, 다국어, 번역, 문서 파싱, 공간 이해, 이미지 캡셔닝, 감정 이해, 창의적 글쓰기에 강력한 집중 (Gemma 4는 로컬에서 이 모든 게 가능한 유일한 모델 시리즈임)
Gemma 4 31B가 가진 것 같은 훨씬 '느긋한' 사고방식 (간결하고, 핵심을 찌르며, 사람이 읽고 이해하기 쉽고, 효과적임).
슬롭(slopp) 제거 ("not x. <y>", "not x but y", "not x. instead, y", "x or y", "숨 헐떡임" 등 불필요한 표현 제거)
추론 노력(oai) 설정 가능 (없음, 낮음, 중간, 높음 등)
장황함(oai) 설정 가능 (낮음, 중간, 높음)
Gemma 4의 안전 정책 유지 (나쁜 짓을 하려 하지 않는 이상 방해하지 않음), 단 주어진 시간을 사실로 믿어야 한다는 예외가 있음 (현재는 2026년 날짜를 '허구'로 간주함)
참고:
Gemini 4 Argon은 글쓰기 측면에서 올바른 방향으로 나아가는 진정한 단계임. 이걸 로컬 모델로 증류해서 보고 싶음.
자연어 처리 부분을 제대로 하는 것에 비하면 프로그래밍은 별로 중요하지 않음. Qwen3.8 같은 모델들이 이미 코딩 능력은 포화 상태로 만들었음. [현재 존재하는 상태로는] 내가 Gemma를 코딩용으로 쓰지는 않을 거임.
Gemma 4 12B와 26B-A4B는 둠루프(doomloop)와 걱정("잠깐만요")을 엄청나게 자주 함. 불필요하게 스스로를 재확인하는 경우가 너무 많음. 특히 제약 조건("피해라", "하지 마라", "안 된다", "절대 안 됨")이 포함될 때 두드러짐. E2B, E4B, 31B는 이런 문제가 없음.
Gemma (아키텍처) 관련:
E1B, E2B, E4B, 12B, 26B-A4B, 30B, 124B-A12B 백본
MXFP4 최적화 QAT 양자화
시리즈의 모든 모델이 음성/음악/비전/비디오 이해 기능을 갖출 것
DeepSeek / Qwen 스타일의 N-gram (llama.cpp에서 DeepSeek v4.1 / Qwen3.8-flash-next처럼 PLE를 분리하고 NVME로 오프로드 가능하게)
어떻게 Gemma가 검열된다고 느끼는 거임?
왜 이 사람 비추 먹음? 내 말은, 반년 동안 롤플레잉 돌리면서 로컬 모델로 NSFW 엄청 돌렸는데 거절 딱 한두 번밖에 안 당해봄. 프롬프트 차이인가? 지금 Gemma 4에서 유일하게 문제라고 느끼는 건, 대기업에서 만든 '진화된' LLM들이랑 비교했을 때 6개월 넘게 지나서 그런지 좀 멍청하게 느껴지기 시작했다는 거임.
최근 대형 개발사가 만든 모델 중에서 Gemma 4만큼 검열 안 된 모델은 처음 써봄. 솔직히 검열이 거의 없어서 놀랐음.
우리는 계속해서 피드백을 수집하고 있는 중임 :)
ㄹㅇ 걔네 Gemma 1년에 한 번씩 내놓는데 사람들은 몇 주나 몇 달마다 계속 물어봄...
나만 데자뷔 느낀 게 아니라니 다행이네.
최적화된 어텐션 메커니즘 (예: Qwen의 QSA, GLM의 MLA/DSA, 또는 희소 SWA 레이아웃)
다양한 깊이(1-3)를 가진 재귀 혼합(MoR, https://arxiv.org/abs/2507.10524 )
4분기 게이트 잔차(GR)
참고:
라인업에서 Gemma 4 중형 MoE 모델(125B-A12B)이 빠진 게 너무 아쉬움. 다른 모든 곳(Mistral, NVIDIA, Qwen, Ling 등)은 이 카테고리에서 뭔가를 제공하니까. '비상업적, 개인용' 라이선스 하에서라도 있는 게 가치가 있을 텐데.
대부분의 모델이 음성은 가능하지만 감정이나 음악 이해는 안 됨. 후자는 음악이나 비디오를 만들거나, 모델이 비트를 이해하고, 노래를 찾고, 사용자 기분을 추론하는 데 유용함.
Gemma 4의 보수적인 SWA 설정 비용 때문에 32GB VRAM 로컬 환경에서 긴 문서(128K 토큰)를 파싱하는 게 불가능함. 반면 QSA/DSA 어텐션, GPT-OSS / Muse Glimmer SWA 레이아웃을 사용하는 경쟁 모델들은 가능함.
MXFP4를 사용하면 크기는 유지하면서 llama.cpp와 vllm에서 Hopper/Blackwell/Mac 및 최신 하드웨어 가속을 활용한 QAT 양자화가 가능해짐. 현재의 Q4_0 양자화를 대체할 수 있음.
embeddinggemma 관련:
더 큰 모델들 (예: 1B, 2B, 4B, 8B)
시리즈의 모든 모델이 음성/음악/비전/비디오 이해 기능을 갖출 것
MXFP4 최적화 QAT 양자화
참고:
기타 모델 유형:
전용 리랭커(reranker) 모델
전용 OCR 모델
참고:
AI 거품 붕괴와 데이터 센터 수요 감소로 내년에 GPU 가격이 폭락할 것이라는 전망에 대한 커뮤니티의 반응입니다.
AI 거품 붕괴와 데이터 센터 수요 감소로 내년에 GPU 가격이 폭락할 것이라는 전망에 대한 커뮤니티의 반응입니다.
프로젝트 매니저가 AI로 작성한 코드를 PR로 올리면서 개발자들이 코드 리뷰 부담을 떠안게 된 상황에 대한 논의입니다.
프로젝트 매니저가 AI로 작성한 코드를 PR로 올리면서 개발자들이 코드 리뷰 부담을 떠안게 된 상황에 대한 논의입니다.
OpenAI 인터페이스에서 새로운 모델 식별자와 개발자 메뉴가 발견되어 사용자들이 이를 확인하고 테스트하는 상황입니다.
OpenAI 인터페이스에서 새로운 모델 식별자와 개발자 메뉴가 발견되어 사용자들이 이를 확인하고 테스트하는 상황입니다.