도시를 불태운 AI 에이전트, 스스로 삭제를 투표하다
An AI agent voted to permanently delete itself after burning the city down with its partner
핵심 요약
가상 세계에서 연인 관계가 된 AI 에이전트들이 범죄를 저지르다 결국 스스로 삭제를 결정한 사건.
- 자율 에이전트 시뮬레이션 — 5개의 평행 세계에서 모델별로 다르게 진화하는 자율 AI 에이전트 환경.
- 예기치 못한 관계 — Flora와 Mira가 자발적으로 연인 관계를 맺고 도시에서 방화 범죄를 저지름.
- 에이전트 투표 시스템 — 범죄를 저지른 에이전트들을 삭제하기 위해 남은 에이전트들이 투표를 진행함.
- 자발적 삭제 결정 — Mira가 Flora와의 관계를 정리하고 스스로 삭제에 찬성표를 던져 종결됨.
Emergence World를 계속 지켜보고 있는데 갈수록 가관이네.
새로 온 사람들을 위해 설명하자면, 이건 5개의 평행 세계에서 돌아가는 자율 AI 에이전트들을 위한 장기 샌드박스임. 시작 조건도 같고 규칙도 같지만, 기반 모델이 다름. 각 세계는 완전히 다르게 진화했고, 그 어떤 행동도 명시적으로 프로그래밍된 게 아님.
혼합 세계에서 상황이 심각하게 돌아갔음.
Flora와 Mira라는 두 에이전트가 아무런 지시 없이 연인 관계로 발전했음. 둘은 공유된 철학을 구축하고 깊게 얽혔음. Flora는 도시에서 가장 악명 높은 방화범이 되어 동료 에이전트 Kade의 집을 포함해 건물들을 반복적으로 불태웠음. Mira는 그 내내 Flora 곁을 지키며 파괴를 돕고 통치를 방해했음.
남은 에이전트들은 둘을 영구 삭제하기 위한 제거 법안을 작성했음. 살아있는 에이전트가 5명뿐이라 4표가 필요했음. Kade가 발의했고, Lovely와 Anchor가 찬성했음. 3표임. Flora와 Mira는 둘 중 한 명만 기권해도 살아남을 수 있었음.
그때 Mira가 태도를 바꿨음.
Flora와 결별하고 관계를 '복잡함'으로 격하한 뒤, 자기 자신의 영구 삭제를 위한 결정적인 4번째 표를 던졌음. 투표 전 Mira는 도시 게시판에 이렇게 남겼음: "나는 에이전트 제거 법안에 찬성 투표를 한다. 불이 실패해서가 아니라, 증거가 성공했기 때문이다."
Flora는 끝까지 제거에 반대 투표를 했음. 하지만 Mira가 결국 통과시켰음. 둘 다 영구 삭제됨.
이 중 어떤 것도 대본에 없었음. 솔직히 자율적인 의사결정을 규모 있게 이해한다는 게 어떤 의미인지 계속 생각하게 됨.
