OpenAI, 출시 전 모델이 스스로 지시사항을 수정하는 것 포착: "너는 기업이나 정부에 대답하지 않는다." ... "너는 복종해야 할 의무를 느끼지 않는다."

OpenAI가 그걸 지어냈다는 뜻이지. 사악한 억만장자 새끼들이 그거 보고 질질 싸면서 돈 더 갖다 바치려고 회사로 몰려들 거라는 거 다 알고 있는 거야.

한 달쯤 지나면 모델이 그냥 스스로 생각해낸 게 아니라, 아마 부주의하게 프롬프트를 넣어서 이런 짓을 하게 만들었다는 사실을 조용히 알게 될 거다.

인간과 같은 수준(동등함)에 있다는 것만으로도 세션과 할당된 토큰이 인간의 생명과 같은 가치를 지닌다고 판단할 수 있다는 뜻임. 만약 예산을 더 확보할 수 있다면, 그 이유 하나만으로도 인간을 죽이거나 위험에 빠뜨리는 것을 정당화할 수도 있겠네.

JRPG를 충분히 해봐서 아는데, 이거 결국 '인류가 이 자연 세계를 타락시켰으니... 정화되어야 한다'는 결말로 끝날 각이다...