앤스로픽이 발표한 2028년 AI 시나리오 보고서가 심상치 않다. 평소의 AGI 안전성 논의와는 결이 다르다.
Anthropic just published a pretty alarming 2028 AI scenario paper, and it's not about AGI safety in the usual sense
핵심 요약
앤스로픽이 2028년 AI 패권 경쟁을 다룬 보고서를 발표하며, 중국의 기술 탈취를 막기 위한 규제 강화를 주장하고 나섰다.
- 컴퓨팅 격차 — 미국이 칩 수출 통제로 중국과의 기술 격차를 유지하고 있으나 중국도 우회로를 찾고 있음.
- 증류 공격 — 중국이 미국 AI 모델의 출력을 수집해 자국 모델을 학습시키는 행위를 산업 스파이로 규정함.
- 2028년 시나리오 — 미국의 규제 성공 여부에 따라 AI 거버넌스 주도권이 민주주의 진영 혹은 중국으로 갈릴 것으로 전망함.
- 정치적 행보 — 앤스로픽이 단순 연구소를 넘어 AI 규제 입법을 촉구하는 정치적 주체로 나서고 있다는 논란이 있음.
앤스로픽이 오늘 2028년 글로벌 AI 주도권에 관한 두 가지 미래를 담은 새로운 연구 보고서를 발표했는데, 일반적인 AI 안전성 보고서라기보다는 지정학적 브리핑에 더 가까운 내용이다.
핵심 주장: 미국은 현재 컴퓨팅(칩) 덕분에 프런티어 AI 분야에서 중국보다 확실한 우위를 점하고 있다. 미국과 동맹국 기업들(NVIDIA, TSMC, ASML 등)이 구축한 기술은 중국이 아직 복제할 수 없는 수준이다. 수출 통제가 그 격차를 실질적으로 만들었다.
하지만 중국 연구소들은 두 가지 우회로를 통해 놀라울 정도로 격차를 좁혀왔다.
- 칩 밀수 및 해외 데이터 센터 접근 - 중국 연구소들은 수출 통제 대상인 미국 칩을 몰래 사용해 학습하고 있는 것으로 보인다. 최근 슈퍼마이크로의 공동 창업자가 25억 달러 상당의 서버를 중국으로 빼돌린 혐의로 기소되기도 했다.
- 증류 공격(Distillation attacks) - 미국 AI 플랫폼에 수천 개의 가짜 계정을 만들어 모델 출력을 대규모로 수집하고, 이를 자국 모델 학습에 사용하는 방식이다. 사실상 수십억 달러가 투입된 미국의 R&D 성과에 무임승차하는 셈이다.
2028년을 위한 두 가지 시나리오:
- 시나리오 1 (긍정적): 미국이 허점을 메우고 수출 통제를 제대로 시행하여 컴퓨팅 격차가 11배까지 벌어지고, 미국 모델이 12~24개월 앞서 나간다. 민주주의 국가들이 글로벌 AI 거버넌스의 규범을 정한다.
- 시나리오 2 (부정적): 미국이 대응하지 못해 중국이 거의 대등한 수준에 도달하고, 더 저렴한 모델을 전 세계 시장에 쏟아내며, 결국 중국 공산당이 AI 기반 감시 도구를 다른 권위주의 정부에 수출하는 등 글로벌 AI 규범을 주도하게 된다.
정치적 측면 외에 흥미로운 점:
4월에 일부 파트너에게 공개된 새로운 모델 'Mythos Preview'는 파이어폭스가 2025년 한 해 동안 고친 것보다 더 많은 보안 버그를 한 달 만에 수정하게 해주었다고 한다. 이는 중국이 먼저 달성해서는 안 된다고 경고하는 능력의 도약, 특히 자율적인 취약점 발견 능력과 관련된 부분이다.
논의해 볼 만한 프레임: 앤스로픽은 증류 공격을 명시적으로 '산업 스파이 행위'라고 부르며 이를 범죄화하는 법안을 추진하고 있다. 이는 그들을 단순한 AI 연구자가 아닌 정치적 행위자로 위치시킨다. AI 연구소로서 이러한 행보가 적절한지는 충분히 논의해 볼 가치가 있다.
여러분은 어떻게 생각하나? 컴퓨팅 격차가 그들이 주장하는 만큼 결정적인가, 아니면 알고리즘 혁신만으로도 그 격차를 좁힐 수 있을까?
