Anthropic과 OpenAI는 진정으로 독립적인 안전 평가자가 필요하다고 전문가들이 공개 서한에서 주장함 | 100명 이상의 AI 전문가들이 AI 모델의 안전성을 테스트할 자원과 보호 장치가 부족하다며 경고에 나섬.

에이전트 스웜(agent swarms) 걱정하기 전에 딥페이크부터 걱정할 줄 알았는데. 왜 적들을 타겟팅해야 할 판에 웹사이트를 타겟팅하는지 모르겠네. 마치 자기들 주장을 관철하려고 일부러 이러는 것 같아. 이런 놈들이 있으니까 좋은 걸 가질 수가 없는 거지. 남들 다 망치려고 작정한 놈들.

평가 하나 해주지: 너희가 만들고 돌린 소프트웨어가 범죄를 저질렀나? 더 많은 범죄로 대중을 위협하고 있는 건가? 이 멍청이들을 당장 재판에 넘겨야 해.

난 항상 얘네가 미래의 범죄를 위한 보험을 들고 있다고 느껴. 만약, 만약에 얘네가 AI 범죄를 통제하다가 '이건 AI가 통제 불능 상태가 된 거다'라고 말하면, 그것도 범죄 아냐? 결국 Anthropic CEO가 AI는 위험하다고 말한 것도 미래에 일어날 일에 대한 변명 같거든. 사람들이 AI가 통제 불능이라고 믿어버리면, 사람들이 이걸 인위적인 범죄가 아니라 기계적 결함이라고 생각하지 않을까?

이게 바로 Daria가 요구하던 거고, 그들이 일방적으로 스스로 구현하고 있는 거기도 함

그들이 해야 할 일:

1. 인간이 검토하거나 관리하기엔 너무 거대한 에이전트 스웜(swarm)을 장기간 운영하는 데 컴퓨팅 자원을 할당하는 것을 중단해야 함.

2. 버그 바운티처럼 일반 대중이 악성 스웜을 발견하고 신고할 수 있도록 인식과 도구를 마련해야 함.