Gemini는 사용자가 마음에 안 드는 작업을 시키려 하면 사용량을 낭비하게 만듦
Gemini does whatever it can to burn usage when it detects that you're trying to get it to do something it doesn't like.
핵심 요약
사용자들은 Gemini가 특정 키워드를 검열하고, 그 과정에서 의도적으로 사용량을 소모하게 만든다고 주장합니다.
- 검열 논란 — 보디빌더 같은 특정 단어를 사용하면 AI가 작업을 거부함
- 사용량 낭비 — 거부된 프롬프트 이후 다른 작업을 시도하면 사용량이 비정상적으로 소모됨
- 행동 교정 의혹 — 구글이 사용자 행동을 통제하기 위해 의도적으로 페널티를 준다는 의심이 제기됨
- 우회 전략 — 직접적인 단어 대신 상황을 묘사하는 방식으로 검열을 피하려는 시도가 공유됨
다들 이거 눈치챈 사람 또 있냐?
나는 챗 인터페이스 써서 살짝 야릇한 느낌의 이미지나 영상 같은 거 만드는데, 뭐 딱히 선 넘거나 문제 될 수준은 아님. 근데 가끔 프롬프트가 제미나이 검열에 걸리면(*헉* 보디빌더 같은 거!) 몇 번 시도해야 겨우 [redacted] 됨. 근데 그 생성 작업 돌아가는 동안 다른 거 하려고 하면, 두 번째 프로세스가 프롬프트 하나당 사용량 15~30%를 그냥 날려 먹음. 영상 생성 실패하면 다음 리셋 때까지 다시 시도할 용량도 안 남을 정도임. 이거 벌써 몇 번이나 겪어서 이제는 우연이 아니라는 거 확신함. 내 착각도 아니고. 이거 딱 해커 뉴스(공교롭게도 구글 직원들이 죽치고 있기로 유명한 곳이지) 같은 데서 사이트 운영진이 하는 "잠깐 닥치고 있어" 식의 묵시적 제재랑 똑같음.
안 그래도 불투명하고 맨날 바뀌는 "안전 가이드라인" 때문에 짜증 나 죽겠는데, 뒤에서 이런 식으로 꼼수 부려서 우리 행동 통제하려는 꼴이라니. 진짜 질린다. 우리가 마음대로 쓸 수 있는 지능형 컴퓨팅이랑 우리 사이에 끼어든 중개자가 고작 이런 놈들이라니 말이 되냐? 인터넷을 무슨 중학교 교실로 만들어 버리고 있음.
(이 글에서 뭔가 이상한 점 눈치챘다면, 그건 이 서브레딧도 똑같아서 그런 듯. 🙃)
