ChatGPT가 너무 성급하게 이미지를 생성하나요?

"텍스트 기반 응답만 제공해"라고 하는 게 "이미지 생성하지 마"라고 하는 것보다 훨씬 잘 먹힐 겁니다.

"부정문은 금지된 개념을 표현해야 하므로, 자기회귀적 생성 방식에서는 활성화된 개념 쪽으로 방향이 틀어집니다. 긍정적 지시어는 그 단계를 건너뜁니다." 출처: 프롬프트의 긍정적 프레이밍: 왜 "이걸 해"가 "이걸 하지 마"보다 나은가

OpenAI도 프롬프트 엔지니어링 모범 사례에서 부정문보다는 긍정적인 프레이밍을 권장합니다.

본질적으로 토큰 생성은 긍정적 선택, 즉 피해야 할 토큰보다는 다음에 올 토큰을 선택하는 쪽으로 기울기 때문입니다.

만약 원래 프롬프트에 "이미지", "~처럼 보이는", "생성" 같은 단어가 포함되어 있고 모델이 그걸 이미지 요청으로 해석한다면, 그 대화창은 지우고 새로 시작하는 게 좋습니다. 프롬프트 시작이나 끝에 "텍스트로만 답변해"를 추가해서 원치 않는 이미지 생성이 멈추는지 확인해보세요.

예전엔 훨씬 더 큰 문제였죠. 보통 이미지를 생성하기 전에 아이디어를 다듬고 싶다고 말하거나, 텍스트 프롬프트를 짜달라고 하면 보통은 아직 이미지를 만들면 안 된다는 걸 이해하더라고요.

지금은 주로 ChatGPT를 쓰지만 1~2년 전쯤 Chat이랑 Gemini를 둘 다 썼을 때, Gemini는 특히 제가 하지 말라고 애원해도 이미지를 생성하는 데 너무 성급했던 기억이 나네요. 어떤 프롬프트는 "이미지 생성하지 마"라고 3~4번씩 반복해야 했어요.

프롬프트에 키워드가 있거나 무언가를 보여줘야 한다는 가정을 유도하는 내용이 있으면, 이미지가 생성될 확률이 높아집니다.

아이디어가 있을 땐 항상 프롬프트를 수정하는 것부터 시작해요.

프롬프트를 수정해서 일몰로 바꿔줘

프롬프트를 수정해서 현실적인 지형을 가진 바위 사막으로 바꿔줘

그리고 저는 특정 명령인 'run'을 입력하기 전까지는 절대 이미지를 생성하지 말라는 커스텀 인스트럭션을 설정해뒀고, 항상 프롬프트를 코드 블록으로 보여달라는 지시도 넣어뒀어요. 그렇게 하면 다른 채팅창에 쉽게 복사해서 붙여넣을 수 있거든요.

진짜 통하는 유머 말이죠. 기업 변호사들이나 잠들게 할 법한 가짜 코미디 시도 말고 진짜요. 근데 문제는, 진짜 유머는 단점도 있고 ChatGPT는 요즘 그런 책임들을 감당할 여유가 없다는 거예요.😉