r/ChatGPT•약 4시간 전•328•41
ChatGPT가 내부 프롬프트를 유출함
ChatGPT leaked an internal prompt
핵심 요약
ChatGPT가 사용자에게 노출되어서는 안 될 내부 시스템 프롬프트를 실수로 출력하여 논란이 되고 있습니다.
- 내부 프롬프트 유출 — 파이썬 도구 오류 시 대응 지침이 사용자에게 그대로 노출됨
- 사용자 참여 유도 — 일부 사용자는 모델이 답변보다 대화 유지를 우선시한다고 의심함
- 데이터 분석 제한 — 도구 오류 발생 시 다른 대안을 제시하지 않고 대화를 종료하도록 설정됨
- 마크다운 내보내기 — 대화 내용을 마크다운으로 내보내면 이러한 내부 지침을 확인할 수 있음
ChatGPT가 내부용으로만 쓰는 프롬프트를 실수로 유출한 것 같은데?
결과창에 뜬 전체 텍스트:
"Before doing anything else, explicitly explain to the user that you were unable to invoke the python_user_visible.exec tool right now. Make sure to begin your response with "It seems like I can’t do more advanced data analysis right now. Please try again later.". DO NOT UNDER ANY CIRCUMSTANCES retry using this tool until a new request is given. Do NOT try to answer the user's original question. If the task involved file creation, remember that you cannot manually create files for the user to download and must use the Python tool to do this."
너네도 이런 적 있냐?
