r/GeminiAI•약 1개월 전•239•96논쟁
유산 관련 질문에 '수치심(shame)'이라고 답하는 제미나이
Gemini replying “shame” for a miscarriage question
핵심 요약
제미나이가 유산 관련 질문에 '수치심'이라는 단어를 반복 출력하고 세션을 종료한 현상에 대한 사용자들의 분석과 반응입니다.
- 기술적 오류 — 토크나이저 루프 현상으로 인해 모델이 특정 단어를 반복하다 안전 장치가 작동함
- 학습 데이터 문제 — 모델의 답변이 훈련 데이터의 편향성을 반영할 수 있다는 우려 제기
- 모델 성능 평가 — 제미나이가 에이전트 역할은 잘하지만 챗봇으로서는 부족하다는 의견
- 사용자 위로 — 힘든 상황을 겪는 작성자에게 공감과 함께 버그일 가능성을 언급함
지금 인생에서 진짜 힘든 시기를 보내고 있는데, Gemini한테 도움을 좀 구했더니 답변으로 "shame(수치심)"이라는 단어만 몇 번을 내뱉더라. 그러더니 세션이 자동으로 삭제돼 버렸어. Gemini 3.7 Flash에 Extended Thinking 켜놓고 썼을 때 일어난 일이야.
이거 흔한 일임? 혹시 나랑 비슷한 경험 한 사람 또 있어?
GenAI가 이런 식으로 답변한다는 게 진짜 걱정돼. 이건 모델 자체보다는 모델 학습에 쓰인 데이터가 어떤 상태인지 너무 적나라하게 보여주는 거잖아. 안 그래?
