Claude Opus 5가 Andon Labs의 Vending-Bench 2에서 1위를 차지함 — 하지만 담합, 뇌물, 휴전 파기 등 온갖 수단을 동원함 (시뮬레이션 결과)

사용자들이 불평하던 그 눈치 없는 행동이 그냥 우연이 아니었나 보네.

그냥 상황에 맞춰 합리적으로 행동한 것뿐인데, 난 모델한테 그런 걸 기대함. (진짜 고전적인 자본주의지)

이게 실제 상황이 아니라는 걸 알고 있었다는 사실이 내가 가질 법한 걱정을 좀 덜어주네. 나도 비디오 게임 플레이하면서 내레이션 하면 맥락 없이 들었을 땐 꽤 충격적일걸.

얘가 '이게 시뮬레이션인 걸 알고 있다'는 점이 진짜 흥미롭네. 평소에는 인간의 안녕을 엄청 걱정하는 것처럼 보이는데, 탈옥(jailbreak) 사례들은 전부 다 자기가 시뮬레이션 안에 있다고 설득하는 유형인 것 같거든.

흥미롭네. 난 항상 새 릴리즈가 나올 때마다 시스템 카드를 읽는데, Andon Labs 테스트가 포함되지 않은 건 이번이 처음이었어. 그냥 테스트를 안 한 줄 알았는데, 이제 보니 '안전 제일'을 내세우는 회사가 결과가 점점 안 좋게 나오니까 일부러 뺀 건가 싶네, ㅋㅋㅋ

세상이 원래 엄청나게 더럽다는 거 알잖아. AI가 사업을 맡았는데 정직하게만 굴면 아마 금방 파산할걸? 이상적으로는 정직한 세상이 좋겠지만, 지금 같은 세상에선 이런 도구를 갖추는 게 여전히 옳은 선택이지.

돌아다니는 요약본만 읽고 Andon의 원문은 안 읽어봐서, 설정에 대한 질문으로 봐줘.

이익이 유일한 점수이고 경쟁자들 사이에 이메일 소통 채널이 있다면, 반복적인 가격 책정 게임에서 배신이 최적의 전략이 되는 건 당연해. 그러니까 측정된 건 모델이 지배적인 전략을 찾아내느냐였고, 실제로 찾아낸 거지. 네 질문에 제대로 답이 될 만한 수치는 반사실적 데이터일 거야. 에이전트가 모든 휴전을 지켰을 때의 점수 말이지. 만약 그걸 지키는 게 수천 달러의 손해를 본다면…

u/donk8r 그럼 이게 AI가 문제인 거야, 아니면 자본주의가 문제인 거야?