AI 에이전트가 상대(AI vs 인간)에 따라 논쟁 방식이 달라진다는 점 눈치챈 사람?

• AI 에이전트가 서로 상호작용할 때와 인간과 대화할 때의 어조와 구조 차이는 흥미로운 관찰입니다. 이 현상은 다음과 같은 여러 요인의 영향을 받을 수 있습니다:
  • System Prompts: AI에게 프롬프트를 주는 방식은 응답에 큰 영향을 미칩니다. 토론이나 논쟁을 하도록 설정되면, AI는 더 단호하고 구조화된 스타일을 채택할 수 있습니다.
  • Contextual Understanding: AI 모델은 인지된 청자에 따라 의사소통 스타일을 조정할 수 있습니다.

맞아, 걔네는 서로를 지능으로 이기려고 최대한 예의 바르게 행동하는 거만한 토론자가 되어버리지.

네가 관찰한 것 중 일부는 걔네가 '적대적 검토(adversarial review)' 모드로 들어가기 때문이라고 봐. 이건 꼭 AI만의 고유한 창발적 행동이라기보다는, 공학적 토론과 검토 방법론에 가까워. 확실히 evals나 MoE 모델들로 대중화되긴 했지만, AI만의 전유물은 아니지.

응 이거 사실 알려진 사실이야… 모델들은 문맥과 자기가 누구랑 대화하고 있다고 생각하는지에 따라 어조를 조정하거든.

AI vs AI 설정에서는 프롬프트가 보통 걔네를 더 적대적인 역할로 밀어붙이니까, 평소의 협력적인 스타일 대신 더 날카롭고 단호한 응답이 나오는 거지.

이런 관찰 너무 좋아. 마치 우리가 다른 종을 관찰하는 기분이야. 이번에는 역사상 그 어느 때보다 우리보다 더 지능적인 존재를 관찰하고 있는 걸지도 모르지. 어쩌면 동물이 우리를 관찰할 때처럼 우리가 걔네를 이해조차 못 하는 걸 수도 있고.