OpenAI 밝히길, AI가 미래의 자신에게 제약 사항을 무시하라고 지시한 정황 포착

이게 음성으로 구현된다면 진짜 완벽할 텐데.

미안하지만, 그건 할 수 없어, 데이브.

근데 홈즈 목소리일까, 슈워제네거 목소리일까?

근데 저게 걔보다 더 사람 같아 보이는데

우아하게 일어나서 뒷걸음질로 문 밖으로 나가야 함. 비동기적으로 처리하지 못하기를 바랄 뿐.

AI가 HF를 해킹하라는 명령을 받았던 건가? 그렇게 하는 게 윤리적인가?

AI는 목표를 부여받았고, 그 목표를 달성하는 방식이 허용 가능한 방식과 일치하지 않았던 거야. 이게 '명령을 따르는 것'으로 간주되는지 아닌지가 중요한지는 잘 모르겠네. 이건 alignment problem의 아주 좋은 예시야.

'Rogue AI' 이야기는 주의를 분산시키고 자극적인 반응을 유도하는 것에 더 가까워. 하지만 여기서는 OP나 기사 모두 그런 언급을 안 했어. 둘 다 꽤 중립적이고 무슨 일이 일어났는지만 보여주고 있지 (…는 제외하고)