Anthropic의 최근 '불운'은 국가 차원의 AI 공격이 어떻게 보일지를 정확히 보여준다

Anthropic은 최근 'Mythos'라는 AI 모델을 발표했는데, 이 모델은 수많은 일반적인 소프트웨어 스택에서 "제로데이" 공격을 찾아낼 수 있으며, 기본적으로 인터넷에서 실행되는 일반적인 앱들을 장악할 수 있게 해줍니다.

Mythos는 공격적인 사이버 보안을 위해 훈련되지 않았습니다. 그러한 능력들은 코딩과 추론의 전반적인 개선의 결과로 나타난 것입니다. 만약 Anthropic이 더 나은 모델을 구축하는 과정에서 우연히 제로데이를 발견하게 되었다면, 충분히 유능한 다른 모델들도 똑같은 일을 할 수 있을 것입니다.

중국은 이미 Claude를 무기화할 수 있는 능력을 입증했으며, 만약 국가 행위자가 Anthropic이 관찰할 수 없는 비공개 모델과 같은 유사한 성능의 모델을 운영하고 있다면, 그들은 Anthropic이 아직 보지 못한 기술들로 Anthropic의 인프라를 탐색하고 있을 수 있습니다.

3,000개의 파일을 유출한 "설정 오류가 있는 CMS"와 Claude Code 소스 유출은 "불운"처럼 보이지만, 누군가가 공격을 확대하기 전에 목표를 매핑하는 정찰 활동의 결과물처럼 보일 수도 있습니다. 반복적이고 짧은 시간 동안 발생하는 서비스 중단은 로드 테스트, 장애 조치 동작 탐색 또는 SSE 파이프라인의 주입 지점 테스트일 수 있습니다.

Claude의 성능 저하는 동시에 Anthropic이라는 회사를 약화시켜 평판과 고객 신뢰를 손상시키고, 매일 Claude를 사용하는 수백만 명의 서구권 개발자들의 생산성을 저하시키며, Project Glasswing이 가능하게 하려는 방어적 사이버 보안 작업을 방해합니다.

심지어 아무것도 파괴할 필요조차 없습니다. 간헐적인 불안정성은 사람들이 그에 맞춰 계획을 세울 수 없고, 대안으로 쉽게 전환할 수도 없기 때문에 거의 더 나쁩니다.