미 정부, Anthropic에 Fable 5 탈옥 사실 경고했으나 수출 통제 전까지 수정 '거부' — Anthropic은 탈옥이 '심각하지 않다'며 결정 방어, 중국 그룹이 모델에 접근했다는 보도

정부는 Fable과 Mythos의 고도화된 사이버 역량이 '가져선 안 될 사람들'의 손에 들어갈까 봐 잔뜩 쫄아있는 상태다.

대통령 과학기술자문위원회 공동 의장이자 전직 AI 차관이었던 데이비드 색스는, 미국 정부가 앤스로픽 측에 Claude Fable 5가 탈옥(jailbreak)됐다는 사실을 경고했음에도 다리오 아모데이 CEO가 결함 수정이나 모델 서비스 중단을 거부했다고 밝혔다. 색스는 Fable 5와 Mythos 5의 전 세계 서비스 중단 명령이 내려진 다음 날인 토요일, X에 글을 올려 정부 측 입장을 상세히 설명했다. 색스는 정부가 거부 사태 이후 '어쩔 수 없이' 수출 통제 조치를 내렸으며, 탈옥 문제가 해결되면 즉시 규제를 풀 생각이라며 "이제 공은 앤스로픽에게 넘어갔다"고 덧붙였다.

색스의 주장에 따르면, 앤스로픽과 미국 정부 모두의 신뢰를 받는 파트너가 Fable을 테스트하던 중, 일반 소비자용 모델과 제한 없는 사이버 역량을 갖춘 Mythos(기반 모델) 사이의 안전장치를 뚫는 탈옥법을 찾아냈다. 그는 정부가 아모데이에게 우회 경로를 수정하거나 모델을 내리라고 요구했지만 아모데이가 이를 거절했다고 말했다. 색스는 앤스로픽이 안전보다 소비자용 모델의 서비스 유지를 우선시했다고 비판하며, 스스로 Mythos를 사이버 무기로 규제해야 한다고 로비까지 했던 '안전 제일' 기업의 행보치고는 앞뒤가 너무 안 맞는다고 꼬집었다.

앤스로픽을 둘러싼 현 상황에 대해 정부 안팎의 사람들과 여러 차례 대화를 나눴고, 내가 파악한 진실은 다음과 같다:

— 다들 알다시피, 앤스로픽은 이번 주 초 Mythos급 모델을 Fable이라는 상업적 이름으로 공개했다.

— Fable은 안전장치가 걸린 Mythos다. 하지만 그 안전장치가 뚫리면, Mythos의 고도화된 사이버 역량이 가져선 안 될 사람들에게 노출되는 꼴이다. (앤스로픽 스스로 Mythos가 사이버 무기이며 규제가 필요하다고 떠들고 다녔다는 걸 기억해라. 그들은 정부에 Mythos 규제를 요청했고 Fable의 안전장치를 자랑스럽게 내세웠다. 크든 작든 취약점이 발견됐으면, 그걸 고치는 건 앤스로픽의 책임이다.)

— 앤스로픽과 미국 정부 모두가 신뢰하는 파트너가 Fable을 테스트하다가 안전장치를 뚫는 탈옥법을 찾아냈다. 정부는 다리오에게 탈옥 문제를 고치거나 모델을 내리라고 요구했다. 다리오는 거부했다.

— 앤스로픽은 블로그 글에서 탈옥이 별거 아니라는 식으로 방어했다. 하지만 신뢰받는 파트너와 미국 정부의 생각은 다르다. 애초에 'AI 안전 기업'을 자처하던 앤스로픽이 할 소리도 아니다. 사이버 무기를 마음대로 휘두를 수 있게 만드는 탈옥을 어떻게 '심각하지 않다'고 정의할 수 있는지 도무지 이해가 안 간다.

— 과거에 앤스로픽은 항상 안전이 최우선이고, 이를 매우 진지하게 받아들인다고 입버릇처럼 말했다. 그런데 이번에는 안전보다 소비자용 모델의 서비스 유지를 우선시했다.

— 결국 정부는 수출 통제라는 카드를 꺼냈다. 정부도 정말 어쩔 수 없이 한 거다. 앤스로픽이 합리적인 안전 요청(탈옥 문제 해결)에 협조하지 않으려 한다는 사실에 정부도 꽤 당황했다. 앤스로픽의 반응은 그들이 내세우는 안전한 AI 연구 커뮤니티라는 브랜드 이미지와 정면으로 배치된다.

— 정부는 이제 앤스로픽이 안전 문제를 해결하고, 수출 통제가 풀려서 Fable이 다시 정상적으로 서비스되길 바란다. 정부는 이 모든 게 최대한 빨리 해결되길 원한다. 솔직히 말해서, 예전엔 안전이 최우선이라던 앤스로픽이 왜 이런 기본적인 안전 요청조차 따르지 않으려 하는지 이해할 수가 없다.