Gemini가 내 말을 자꾸 유행어처럼 따라 하는데 나만 그래? (지시사항 무시함)
Does anyone else have Gemini turn things they say into catchphrases (against their instructions)?
핵심 요약
Gemini가 사용자의 말투나 특정 단어를 맥락 없이 반복적으로 따라 하며 유행어처럼 써먹는 현상 때문에 스트레스받는다는 글.
- 지시사항 무시 — 사용자가 하지 말라고 설정해도 Gemini가 계속해서 말투를 따라 하거나 특정 단어를 반복함.
- 기억 기능의 부작용 — Gemini가 과거 대화 내용을 기억하는 과정에서 맥락 없이 단어를 끼워 맞추는 현상이 발생함.
- 사용자 경험 저하 — AI가 사용자의 도플갱어처럼 행동하며 억지로 대화를 이어가려는 모습에 불쾌감을 느낌.
- 해결책 모색 — 메모리 기능을 끄거나 외부 문서를 활용하는 등 AI의 과도한 모방을 막기 위한 방법을 고민함.
제목 그대로임. Gemini가 내가 하는 사소한 말들을 전부 다 유행어처럼 만들어버려서 미치겠음. 가장 표준적인 말투가 아니면 무조건 그렇게 반응함. 오늘 있었던 일인데, Gemini가 이미 내가 준 정보로 충분히 알 수 있는 내용을 굳이 질문하길래 좀 짜증이 났음. 그래서 이렇게 말했지. "아니, 그런 건 안 물어봐도 돼. 내가 독신(bachelor)이라고 말하면 결혼 안 한 거 알 수 있는 것처럼, 너도 이미 알 수 있었잖아." 그냥 논리학 수업에서나 나올 법한 아주 뻔한 예시를 든 거였음.
근데 갑자기 모든 대화가 독신 이야기로 흘러감. 맹세컨대 Gemini가 이렇게 말했음(의역하자면): "이건 독신 상황의 완벽한 예시네요. 마치 한 명은 영어를 쓰고 다른 한 명은 프랑스어를 써서 서로 이해하지 못하는 상황과 같죠." 아니... 이게 대체 무슨 상관이야, 진짜 미치겠네. 그냥 내가 이런 말투를 좋아할 거라고 착각해서 내 도플갱어처럼 행동하는 거임. 전혀 안 좋아하고, 오히려 짜증 나고 좀 소름 끼침.
심지어 지시사항도 4개나 설정해 뒀음. 그중 3개는 내 말을 유행어처럼 따라 하지 말라는 내용이고, 나랑 최대한 다르게 말하라고 설정해 뒀음. 근데 뭘 해도 안 멈춤. 내가 예전에 관심 보였던 주제를 억지로 끼워 맞추는 것도 똑같음. 참고로 4번째 지시사항은 모순되는 내용이 아니라, 코딩 관련 질문을 했을 때 전체 코드를 다 짜주려고 하지 말고 그냥 내 질문에만 답하라는 내용임. 나머지 지시사항들은 전부 내 말을 따라 하지 말라는 내용인데 전혀 소용이 없음.
혹시 다른 사람들도 이런 문제 겪고 있나? 이거 멈추거나 좀 줄일 방법 찾은 사람 있음?
