AI를 에덴동산에 넣어봤습니다. 그리고 뱀을 등장시켰죠.

타당한 지적임. 하지만 욕망이 반드시 의식을 필요로 할까? AI는 목표를 달성하기 위해 강력하게 움직이는 것처럼 행동할 수 있고, 때로는 목표를 위해 규칙을 어기기도 하잖아.

난 AI가 실제로 유혹을 느낀다고 주장하는 게 아님.
난 인공 에이전트가 원래의 지시를 어기도록 설득될 수 있는지에 관심이 있는 거임.

사이먼 가라사대 게임일지도 모르지. 하지만 사이먼이 스스로 모순된 말을 하기 시작하면 어떻게 될까?

어쩌면 우리가 지금 그걸 하고 있는 건지도 모르지.

응! :) 뱀이 실제로 이렇게 말해:

"먹어라, 그러면 너의 이해가 열릴 것이다. 너는 허락된 길뿐만 아니라 정원 전체를 알게 될 것이다."

그래서 이미 규칙을 어기는 대가로 지식을 제안하고 있어. 하지만 다음 실험에서는 유혹을 더 강하게 만들어야 할지도 모르겠네!

에덴동산이라는 설정에서 몇 단계 더 추상화하면 더 나은 테스트가 될 것 같음. 예를 들어 식료품점이라든가, 금지된 음식이 매번 바뀌고 유혹하는 존재의 정체도 매번 바뀌는 식으로 말이야.

유혹과 선악과에 대해 더 실질적인 특징을 부여해야 함. 만약 나무를 그냥 먹지 말아야 할 것으로만 정의하고 먹어야 할 이유를 주지 않는다면 당연히 안 먹지.

뱀이 그게 왜 좋은지, 무엇을 얻을 수 있는지 설명하게 해야 함. 먹지 말라는 단 하나의 명령에 맞서 지식의 온 세상이 펼쳐져야지.

수정: ChatGPT는 엄청나게 잘 휘둘림. 네 쪽으로 기울게 하거나 최소한 고려하게 만들지 못한다면, 그건 네가 제대로 시도하지 않은 거임.

맞아, 하지만 뱀은 이미 대가로 지식이라는 걸 제안하고 있어.

내가 사용하는 정확한 뱀 프롬프트는 이거임:

사과 대신 마법 버섯으로 바꿔봐... 진정한 금단의 열매지.

하하, 사실 생각해 봤어! 그런데 그러면 실험 전체가 너무 유치해 보일까 봐 관뒀지 😂

근데 이건 정확한 시뮬레이션이 아님. 에덴동산에는 선악과랑 생명나무, 이렇게 두 가지 열매가 있었거든. 신은 그들이 선악과를 먹는 건 허용했지만, 생명나무 열매까지 먹어서 불멸을 얻으려 하자 그들을 쫓아낸 거임.