r/ChatGPT•10일 전•447•201
이미지 생성 기능이 스스로 너무 멀리 나갔을 때.
핵심 요약
ChatGPT의 이미지 생성 기능이 의도치 않게 수위 높은 결과물을 만들어내며 검열 완화에 대한 논란이 일고 있음.
- 검열 완화 — 이전보다 가이드라인이 느슨해져 사용자의 의도를 더 잘 파악함.
- 수위 논란 — 의도치 않게 신체 부위가 노출되는 등 예상치 못한 결과물이 생성됨.
- 모델 성능 — 사용자의 의도를 추론하는 능력이 향상되었으나 여전히 악용 가능성이 존재함.
- 성인 계정 — 성인 사용자를 성인으로 대우하는 방향성에 대한 긍정적인 반응이 있음.
최소한의 프롬프트로 ChatGPT가 뭘 할 수 있는지 궁금했는데, 이런 결과가 나올 줄은 전혀 예상 못 했어. 세상에 🫣. 두 번째 이미지의 확대 샷은 올리지 않을 거야. 이건 '내가 만든 야한 사진 좀 봐' 같은 게시물이 아니니까.
최신 이미지 모델의 이런 방향성에 대해 어떻게 생각해? 이전 모델들보다 가이드라인이 훨씬 느슨해졌어. 사용자가 더 많은 걸 할 수 있게 해주면서도, 단순히 노골적인 자료만 만들려는 게 아니라면 적절한 균형이라고 봐. 의도를 추론하는 능력은 좋아졌지만, 물론 속일 수도 있겠지.
결국 ChatGPT가 성인을 성인으로 대우해 주는 건 좋은 일이지 🤔.
