r/ChatGPT•20일 전•35•52
ChatGPT가 민감한 주제만 나오면 자꾸 허수아비 때리기를 합니다
ChatGPT consistently strawmanning me when the topic becomes controversial
핵심 요약
ChatGPT가 민감한 주제에서 사용자가 하지 않은 말을 지어내어 반박하는 현상에 대한 사용자들의 경험과 대처법 공유.
- 허수아비 때리기 — AI가 민감한 주제에서 사용자가 언급하지 않은 내용을 가정하고 반박함
- 가드레일 문제 — 정치적 주제뿐만 아니라 일반적인 창작 활동에서도 과도하게 개입함
- 대처 전략 — AI의 메모리 기능을 활용하거나 프롬프트 방식을 변경하여 대응함
- 사용자 성향 — 질문 방식에 따라 AI의 답변이 달라질 수 있다는 의견도 존재함
이스라엘에 대해 물어봤더니 유대인이 세상을 지배하는 게 아니라는 헛소리를 하네. 야, 내가 언제 그런 말을 했다고?
클랜시 사건에 대한 반응을 물어봤더니 "여자는 멍청하다"는 결론은 틀렸다는 식으로 나오더라. 내가 하지도 않은 말, 암시조차 안 한 말을 지 맘대로 따옴표까지 쳐가면서 말이야.
이민 문제에 대해서도 물어봤더니 통계상 "국가적 문제를 이민자 탓으로 돌리면 안 된다"고 가르치려 드네... 내가 언제 그랬냐고.
그때마다 지적하면 사과하고 자기 한계를 인정하면서 다음엔 잘하겠다고 하는데, 바뀔 기미가 안 보여.
그래서 묻는 건데, 다른 사람들도 이런 문제 겪어본 적 있어? 이런 짓 안 하는 모델은 아예 없는 거냐?
