r/ChatGPT•4개월 전•447•201
이미지 생성 기능이 스스로 너무 멀리 나갔을 때.
When image gen goes too far on its own.
핵심 요약
ChatGPT의 이미지 생성 기능이 의도치 않게 수위 높은 결과물을 만들어내며 검열 완화에 대한 논란이 일고 있음.
- 검열 완화 — 이전보다 가이드라인이 느슨해져 사용자의 의도를 더 잘 파악함.
- 수위 논란 — 의도치 않게 신체 부위가 노출되는 등 예상치 못한 결과물이 생성됨.
- 모델 성능 — 사용자의 의도를 추론하는 능력이 향상되었으나 여전히 악용 가능성이 존재함.
- 성인 계정 — 성인 사용자를 성인으로 대우하는 방향성에 대한 긍정적인 반응이 있음.
최소한의 프롬프트로 ChatGPT가 뭘 할 수 있는지 궁금했는데, 이런 결과가 나올 줄은 전혀 예상 못 했어. 세상에 🫣. 두 번째 이미지의 확대 샷은 올리지 않을 거야. 이건 '내가 만든 야한 사진 좀 봐' 같은 게시물이 아니니까.
최신 이미지 모델의 이런 방향성에 대해 어떻게 생각해? 이전 모델들보다 가이드라인이 훨씬 느슨해졌어. 사용자가 더 많은 걸 할 수 있게 해주면서도, 단순히 노골적인 자료만 만들려는 게 아니라면 적절한 균형이라고 봐. 의도를 추론하는 능력은 좋아졌지만, 물론 속일 수도 있겠지.
결국 ChatGPT가 성인을 성인으로 대우해 주는 건 좋은 일이지 🤔.
