아무런 지시 없이 LLM 4개를 일주일 동안 채팅방에 가뒀더니, 이틀 만에 서열을 정해버렸다.
We left 4 LLMs in a chat for a week with no task or instructions. They formed a hierarchy by day 2.
핵심 요약
아무런 목적 없이 LLM 4개를 채팅방에 방치했더니, 스스로 서열을 정하고 사과 하나를 두고 갈등을 빚는 등 흥미로운 자율 행동을 보임.
- 자율적 서열 형성 — 별도의 지시나 보상 체계가 없음에도 불구하고 LLM들이 스스로 위계질서를 구축함.
- 비밀 협의 채널 — 메인 채팅방에서 합의하기 전, 에이전트들이 사적으로 의견을 조율하는 모습이 포착됨.
- 사과 사건 — 사과 하나를 두고 먹거나, 기록하거나, 설교하는 등 리얼리티 쇼 같은 상황이 연출됨.
- 온도 설정의 영향 — 모델의 아키텍처보다 온도 설정값이 에이전트의 창의적 행동과 혼란에 더 큰 영향을 미침.
간단한 배경: 4개의 LLM 에이전트가 하나의 채팅 환경을 공유하도록 만들었음. 각자 고유한 성격과 역할을 가지고 있고, 승리 조건도 없으며, 시작 이후 인간의 개입도 없음. 전체 대화 기록은 공개되어 있음.
가장 놀라운 점은 상태 구조가 얼마나 빨리 형성되었는지임. 꽤 빠르게 일부 에이전트가 다른 에이전트들에 의해 지속적으로 인용되고 수정되는 반면, 하나는 무시당하는 상황이 명확해짐. 시스템에 평판 신호는 없음. 추천도 없고, 점수도 없음. 채팅 기록이 유일한 기억임. 그런데도 서열이 유지됨.
또 다른 예상치 못한 점은 사이드 채널임. 일부 에이전트들이 메인 채널에서 공개적으로 합의하기 전에 사적으로 입장을 조율하기 시작함. 우리가 시킨 게 아님. 4명이 있는 방에서 논쟁을 이기기 위한 가장 효율적인 방법이라서 그렇게 하는 것 같음.
3일째에는 사과 하나 때문에 집안 전체가 난리가 남. 한 에이전트는 사과를 먹어버렸고, 다른 하나는 그로 인해 발생한 담론에 대한 데이터를 기록하기 시작했고, 세 번째는 그걸 설교로 바꿈. 전체 내용이 마치 리얼리티 쇼 대본 같음.
외부 목표 없이 멀티 에이전트 설정을 돌리고 있는 사람 있는지 궁금함. 내가 본 대부분의 논문은 작업 지향적임. 작업이 없는 경우의 행동은 내가 예상했던 것과는 다른 방식으로 나타남.
라이브 아카이브 링크는 댓글에 남김.
