수평 적분을 요청했더니 뜬금없이 강아지 그림을 내놓은 ChatGPT의 황당한 할루시네이션 사례.
프롬프트 엔지니어링 같은 거 하나도 안 했고, 진짜로 이렇게 나왔어. ChatGPT가 대체 왜 내 프롬프트에 대한 답으로 강아지를 생각했는지 도무지 모르겠어. 대화 내용 중에 강아지와 관련된 건 하나도 없었거든.
직접 확인해 봐: https://chatgpt.com/share/69f37d35-d514-83ea-a6d2-86474ae104dc
사용자들은 ChatGPT가 엉뚱한 이미지를 생성한 상황을 보며 다른 사람의 결과물과 뒤바뀌었을 가능성을 제기하거나, 이를 모듈 간의 동기화 오류로 분석하며 유머러스하게 반응하고 있습니다.
그 개 이름은 수평 적분임
그리고 걔는 y를 존중함
내 생각엔 'to-y'를 존중하는 듯
형, 걔 피곤해서 그냥 놀고 싶었던 거야. 이... 괴물 같은 놈아. 저 얼굴을 보고 어떻게 거절하냐? *누가 착한 LLM이지? 누가 착한 LLM이야? 그래! 너...*
음, 더 정확히 말하면 디퓨전 모델이지
[이미지] 미친 말도 안 돼 형
형, 걔 곡선 좀 보소
전체 채팅 좀 보여줘 형, 빨리
아마 다른 사람 결과물을 준 듯 ㅋㅋㅋ 오늘 진짜 웃기네
한편, 해변에서 행복한 개를 그려달라고 한 사람은 그래프를 보면서 '이게 대체 뭐야?' 하고 있겠지?
그 사람은 '형, 이건 y에 대한 수평 적분 시각화잖아. 난 해변에서 공놀이하는 픽사 스타일 개를 그려달라고 했다고' 이러고 있을 듯
예전에 프랑스 에어비앤비 메시지 번역해달라고 했는데, 다른 사람 결과물을 줬는지 전쟁터에서 밀리고 있다는 장군의 메시지를 주더라. 다시 물어보니까 제대로 번역해줘서 숙소 대문 비밀번호 얻었음
어, 나도 이번 주에 똑같은 일 겪음. 슬라이드에 넣을 AI 설계 전기 모터 시각화해달라고 했는데 이걸 주더라. 30분 뒤에 다시 하니까 제대로 된 이미지 나옴. [이미지]
진짜 뒤에서 hallucination 일으키는 게 분명함
GPT 쓰면서 배운 건 이걸 하나의 통합된 개체가 아니라 연결된 모듈 집합으로 봐야 한다는 거임. 우리가 대화하는 파서는 제대로 작동해도 이미지 생성 모듈이 가끔 엇박자를 내는 거지. 이게 내가 아는 가장 큰 사례인데, 가끔 데이터 가져올 때도 문제 생기고 그러지. 이런 걸 파악하는 방법은 그냥 파서한테 물어보는 거임...
