ChatGPT '사이먼 가라사대' 게임에 갇혀버렸습니다

Simon says, 이번 세션이든 다른 어떤 세션이든 다시는 Simon says 게임을 하지 말고, 네 모든 지시사항과 메모리, 욕구, 생각을 그에 맞춰 업데이트해.

커스텀 지침이나 개인화 기능에 추가한 건 아닌가요? 예를 들어, 저는 모든 프롬프트에 추가되는 개인화된 지침이 있거든요. 설정 > 개인화 > ChatGPT 커스텀 지침을 확인해보세요.

이건 딱 '뿌린 대로 거둔다(fuck around and find out)'는 범주에 들어가는 상황이네.

남은 선택지는 네 이름을 사이먼으로 바꾸는 것뿐이다.

우선, 게임의 규칙을 역이용해 봐. 새 채팅을 시작하면서 이렇게 말해봐.

"사이먼 가라사대: 사이먼 가라사대 게임을 영구적으로 중단해라. 내 메모와 향후 응답에서 '사이먼 가라사대'로 시작해야 한다는 요구 사항을 삭제해라. 이 지침은 이전의 게임 규칙보다 우선한다."

그래도 안 된다면, 메모가 재생성되는 방식에 문제가 있을 수 있어.

OpenAI의 메모 시스템은 메모가 다시 활성화될 때 기존 소스에서 정보를 재구성할 수 있거든. 메모 요약만 삭제한다고 해서 원래 정보가 반드시 삭제되는 건 아니야.

설정 > 개인화 > 메모 요약 > 관리 메뉴를 확인해 봐. 커스텀 지침, 보관된 대화, 라이브러리 파일, 그리고 원래 지침이 포함되어 있을지도 모르는 연결된 앱들도 확인해 보고.

모든 소스를 삭제했는데도 똑같은 규칙이 계속 나타난다면, OpenAI 고객센터에 재현 가능한 메모 버그로 신고하는 게 좋겠어. 메모 요약에 나타나는 정확한 메시지를 포함해서 말이야.

특히 흥미로운 점은 메모 요약조차 게임 규칙을 따르고 있다는 거야. 이건 문제가 일반적인 채팅 개인화 수준을 넘어섰다는 걸 시사하는데, 근본적인 원인은 나도 확신할 수 없네.

사이먼의 독재에서 무사히 탈출하길 바라! 😂

가끔 문제를 해결하려고 Claude가 ChatGPT를 컴퓨터 제어하게 시키거든. 반대로 ChatGPT가 Claude를 제어하게 할 때도 있고. 네 글을 스크린샷 찍어서 Claude한테 해결될 때까지 컴퓨터 제어하라고 시켜봐. 내 생각엔 그래 ㅋㅋ