r/ClaudeAI•약 2개월 전•405•115
이상하고 소름 끼치는 Claude의 환각 답변?
Strange, Creepy Hallucinated Responses?
핵심 요약
일본어 학습 중 Claude가 갑자기 변태적이고 이상한 답변을 내놓아 사용자가 당혹감을 표함.
- 환각 현상 — 일본어 학습 도중 모델이 맥락과 무관한 부적절한 답변을 생성함
- 안전 학습 문제 — 사용자들이 모델의 안전 가이드라인이나 학습 과정에 결함이 있을 가능성을 제기함
- 기술적 원인 논쟁 — UUID 충돌 가능성이나 학습 데이터 범위 등 다양한 기술적 가설이 제시됨
모더레이터들이 더 많은 "맥락"을 요구해서 다시 올림.
나는 AI를 순수하게 도구로만 사용함. 배선도 생성, 소프트웨어 구축 같은 것들 말임. 최근 Claude가 일본어에 대한 방대한 이해도를 자랑하길래 일본어 문법 연습용으로 "프로젝트"를 만들어서 튜터처럼 써보려고 했음.
오늘 Claude가 내 Prado(배선 뭉치 문제를 진단 중이라는 걸 알고 있음)를 바탕으로 일본어 문장을 만들어보라고 했음.
내가 문장으로 대답했더니, 갑자기 소름 끼치고 변태 같은 답변을 환각으로 만들어냄?
혹시 이런 문제 겪은 사람 또 있음? 이거 때문에 아예 쓰고 싶지가 않음.
