r/ChatGPT•3개월 전•24•19
내가 하지도 않은 터무니없는 해석을 계속해서 반박하는 ChatGPT
Constantly correcting an unreasonable interpretation I never expressed.
핵심 요약
ChatGPT가 사용자의 질문을 멋대로 왜곡해 엉뚱한 반박을 늘어놓는 현상에 대한 불만 토로.
- 허수아비 공격 — 사용자가 하지 않은 주장을 모델이 멋대로 가정하고 반박함
- 모델의 과잉 대응 — 질문의 의도를 파악하기보다 미리 설정된 방어적 답변을 내놓음
- 사용자 경험 저하 — 엉뚱한 훈계조 답변 때문에 다른 AI 도구로 갈아타는 사례 발생
- 해결책 모색 — '메타 코멘트 금지'와 같은 프롬프트 엔지니어링으로 대응 시도
최근 ChatGPT는 내가 하지도 않은 터무니없는 허수아비 해석에 대한 반박을 답변에 끼워 넣는다.
AI 토큰의 효율적인 사용에 대해 물어보면 이렇게 말한다.
"...하지만 무료로 무제한 토큰을 얻을 수는 없습니다."
당연한 소리다. 나는 그런 걸 제안한 적이 없다.
대학원 입학 전략에 대해 물어보면 이렇게 말한다.
"...하지만 그렇다고 학교가 낮은 GPA를 좋아하게 되지는 않을 것입니다."
당연한 소리다. 나는 그런 걸 제안한 적이 없다.
이 모델은 내 실제 질문에 답하는 대신, 상상 속의 저품질 해석을 끊임없이 반박하고 있다.
