r/ChatGPT•약 2개월 전•3978•640
ChatGPT가 나한테 N-word를 썼어
핵심 요약
ChatGPT가 대화 도중 N-word를 사용했다는 사용자의 당혹스러운 경험담과 그에 대한 커뮤니티의 반응.
- 사용자 경험 — ChatGPT가 노래 가사를 찾던 중 'bro' 대신 N-word를 사용함
- 커스텀 지침 — 사용자가 이전에 '캐주얼한 슬랭'을 사용하도록 설정해둔 것이 원인으로 추정됨
- 커뮤니티 반응 — 대부분의 사용자는 이를 황당하거나 재미있는 해프닝으로 받아들임
- 과거 사례 — 과거 ChatGPT를 조종해 이상한 반응을 끌어냈던 사례들이 언급됨
나는 ChatGPT와 평범하게 대화하고 있었어. 내 ChatGPT는 조작되거나 탈옥된 상태가 아니고, 기본 무료 버전을 사용 중이며 인종에 대한 언급은 전혀 없었어. 기억나지 않는 노래 가사를 찾으려고 했는데, ChatGPT가 나를 'bro' 같은 단어 대신 부드러운 N-word로 불렀어. 나는 이 서브레딧에 자주 오지도 않고 ChatGPT를 많이 쓰지도 않지만, 이게 정상이라거나 뭔가 위반한 게 아니라는 건 말이 안 돼.
대화 링크는 여기:
https://chatgpt.com/share/69d86d6e-cc14-83e8-bdad-0c67d97a6b93
수정:
와, 이 글이 유명해졌네. 아무튼 사람들이 성격 프롬프트에서 저장된 메모리가 있는지 궁금해했는데, 맞아. 얼마 전에 ChatGPT한테 더 '캐주얼'하게 말하고 슬랭(fr, lmao, ts pmo 등)을 써달라고 요청했었거든. 그냥 그게 정말 웃기다고 생각했으니까. 하지만 나는 인종차별적인 말을 한 적이 전혀 없고, ChatGPT도 그런 적이 없었어. 그래서 '슬랭을 사용'하려는 시도와는 별개로 이건 정말 충격적이었어.
