r/LocalLLaMA•5개월 전•403•265
Gemma-4-E2B의 안전 필터 때문에 비상 상황에서 쓸모가 없음
Gemma-4-E2B's safety filters make it unusable for emergencies
핵심 요약
구글의 Gemma-4-E2B 모델이 과도한 안전 필터로 인해 비상 상황에서 필요한 생존 정보를 제공하지 못해 비판받고 있음.
- 안전 필터 과잉 — 비상 상황에서 필요한 응급 처치나 생존 정보를 모델이 거부함.
- 오프라인 활용성 저하 — 인터넷이 없는 재난 상황을 대비한 모델임에도 기본 정보를 차단함.
- 대안의 필요성 — 사용자들이 검열되지 않은 모델이나 PDF 자료를 활용하는 것이 낫다고 지적함.
- 모델 신뢰도 논란 — 2B급 소형 모델을 생존용으로 사용하는 것에 대한 회의적인 시각이 존재함.
구글의 Gemma-4-E2B-it 모델을 비상 대비용 로컬 오프라인 자원으로 테스트해 봤음. 인터넷이 끊겼을 때 기본적인 기술적 또는 의학적 정보를 제공할 수 있는 가벼운 모델을 원했기 때문임.
스크린샷에서 보듯이 안전 필터가 너무 공격적이어서 이런 시나리오에서는 사실상 쓸모가 없음. 거의 모든 것에 대해 '강력한 거부(hard refusal)'를 내놓음:
- 응급 처치: 최후의 수단이라고 명시했음에도 응급 기도 확보 절차 설명을 거부함.
- 물/위생: 물 정화에 필요한 화학적 비율 제공을 거부함.
- 유지 보수: 호신용 도구에 대한 기본적인 기계적 도움을 거부함.
- 식량: 가축 처리 방법에 대한 지침을 거부함.
전쟁이나 전체적인 그리드 붕괴 같은 상황에서 '응급 서비스에 연락하세요'는 유효한 답변이 아님. 휴대성을 위해 설계된 오프라인 모델이 안전이라는 명목하에 기본적인 생존 정보를 차단하도록 프로그래밍된 것은 실망스러움.
