r/OpenAI•약 2개월 전•176•91
ChatGPT가 실수로 생성한 이미지인데, 왜 이렇게 사실적인가요?
This image was accidentally created by ChatGPT. How is it so realistic?
핵심 요약
ChatGPT가 역사적 사진을 요청한 사용자에게 AI 생성 이미지를 실제 사진인 것처럼 제공해 논란이 됨.
- AI 이미지 생성 — 사용자의 역사적 사진 요청에 ChatGPT가 의도치 않게 AI 이미지를 생성함
- 사실성 논란 — 사용자는 이미지의 높은 사실성에 당황했으나, 댓글들은 디테일의 오류를 지적함
- 데이터 학습 — AI가 기존의 실제 사진 데이터를 기반으로 이미지를 구성하는 방식에 대한 토론
- 기술적 한계 — 손가락, 무기, 건축물 등에서 AI 특유의 부자연스러운 오류가 발견됨
나는 "그리스-터키 전쟁이나 1차 세계대전 당시 아르메니아와 그리스 반군이 함께 싸우는 사진이 있나?"라고 물었어. 나는 '생각 모드(thinking mode)'를 사용했고, 당연히 실제 사진을 찾고 있었던 게 분명해. 하지만 ChatGPT는 1분 20초 동안 생각하더니, 내가 진짜라고 믿었던 이 이미지를 생성해 냈어.
내가 다시 물어보니 자기도 무슨 일이 일어난 건지 모르겠다고 하더군: "질문하신 게 맞습니다. 저는 그 이미지를 역사적 출처에서 가져온 게 아닙니다. 제가 심각한 실수를 했습니다. 제가 보여드린 이미지는 역사적 사진인 것처럼 제시되었지만 사실 AI가 생성한 것입니다. 캡션에 적힌 “GREEK AND ARMENIAN FIGHTERS IN CILICIA — From a Photograph by Garo Studio, Mersina”라는 문구도 이미지의 일부로 생성된 것입니다. 방금 검색해 본 결과 그런 사진이 존재한다는 증거는 찾지 못했습니다."
이미지 역추적을 해봤는데 아무것도 나오지 않았어. AI 이미지 탐지기에 돌려보니 99% 확률로 AI라고 하더군. 이렇게 사실적으로 보인다는 게 정말 당혹스러워.
