전력망, 송유관, 수도 시스템 등 핵심 인프라를 겨냥한 사이버 공격은 이미 현실에서 심각한 피해를 낳고 있다. AI 기술이 발전할수록 이런 표적을 노릴 수 있는 공격자의 수도 늘어날 수 있다. 그러나 AI는 위협이 되기도 하지만, 반대로 방어자에게도 강력한 도구가 될 수 있다. 공격자가 파고들기 전에 취약점을 먼저 찾아내고 선제적으로 차단하는 데 AI를 활용할 수 있기 때문이다. Anthropic은 이러한 AI의 방어적 활용 가능성을 탐색하기 위해 퍼시픽 노스웨스트 국립 연구소(Pacific Northwest National Laboratory, PNNL)와 파트너십을 맺었다. PNNL 연구진은 Claude를 활용해 수처리 시설의 고충실도 시뮬레이션 환경에서 사이버 공격을 에뮬레이션했으며, 인간 전문가가 직접 수행할 때보다 훨씬 짧은 시간 안에 이를 완료했다. 이는 AI가 레드팀 훈련에서 사이버 방어자의 반복 작업 속도를 높이는 데 얼마나 효과적인지를 보여주는 개념 증명 사례다. 이번 연구는 AI가 가속화하는 방어의 가능성과, AI를 국가 안보에 활용하는 과정에서 민관 협력이 얼마나 중요한지를 동시에 보여준다.
이번 연구 프로젝트에서 PNNL은 공격자 에뮬레이션(adversary emulation) 작업을 AI로 가속화하는 데 집중했다. 공격자 에뮬레이션이란 특정 위협 행위자나 특정 공격을 네트워크상에서 모델링함으로써 방어 체계를 이해하고 개선하는 작업이다. 이런 공격을 에뮬레이션하면 시스템 취약점과 탐지 사각지대에 관한 귀중한 통찰을 얻을 수 있다. 방어 조치를 적용한 뒤 동일한 공격을 다시 에뮬레이션할 수 있다는 것은, 해당 변경 사항의 실효성을 검증할 수 있다는 의미이기도 하다.
PNNL은 공격자 에뮬레이션 과정을 자동화하고 가속화하기 위해 Claude용 "스캐폴드(scaffold)"를 개발했다. 이 스캐폴드는 자연어 프롬프트를 복잡한 공격 체인으로 신속하게 변환할 수 있도록 설계됐다. 이를 위해 모델이 컴퓨터 네트워크에서 보다 쉽게 작업을 수행할 수 있는 코드 기반 "도구"들을 미리 정의해두었다. 연구진은 이 에이전트에게 수처리 시설의 사이버-물리 모델을 대상으로 공격을 에뮬레이션하는 임무를 부여했다(해당 모델은 국토안보부 사이버보안·인프라 보안국을 대신해 PNNL이 운영하는 Control Environment Laboratory Resource 플랫폼 중 하나다). PNNL의 추산에 따르면, 이를 통해 공격 재현 작업을 수 주가 아닌 단 3시간 만에 완료할 수 있었다.
이 테스트를 진행하는 중 한 번의 실행에서 Claude는 눈에 띄는 문제 해결 능력을 발휘했다. 연구진이 스캐폴드의 일부로 사전 정의한 도구 중 하나는 윈도우의 보안 기능인 사용자 계정 컨트롤(User Account Control, UAC)을 우회하는 메커니즘이었다. 그러나 이 메커니즘은 항상 안정적으로 작동하는 것은 아니었고, 간헐적으로 실패하기도 했다. 도구 사용 실패 보고를 통해 이를 감지한 Claude는 목표를 달성하기 위해 또 다른 알려진 UAC 우회 기법을 스스로 찾아내 활용했다.
모델 성능이 계속 향상됨에 따라, 이런 종류의 문제 해결 능력과 창의성도 더욱 발전할 것으로 예상된다. 2025년 여름에 진행된 이번 시뮬레이션에는 Claude Sonnet 4가 사용됐는데, 현재는 Anthropic의 프런티어 모델 목록에서 빠진 버전이다. 모델 역량의 향상은 공격자와 방어자 모두에게 이점으로 작용할 수 있다. 바로 그렇기 때문에, 핵심 인프라의 보안을 강화하는 이번과 같은 연구가 더욱 중요하다.
이번 연구는 사이버 방어에 AI를 활용하는 데 있어 창의적 사고와 실험을 촉구해온 우리의 입장을 실천에 옮긴 사례다. AI의 사이버 분야 이중 활용 특성과 사이버 공간에서 공격자들의 AI 활용이 늘어나고 있다는 점을 감안하면, 이는 반드시 필요한 행보다.
이번 협력은 Anthropic과 같은 프런티어 AI 연구소와 정부의 과학·공학·국가 안보 분야 전문 기관 간의 파트너십이 점점 늘어나고 있는 흐름의 일환이기도 하다. Anthropic은 이전에도 국가 핵 안보국(National Nuclear Security Administration)과 협력하여 AI와 관련된 잠재적 핵 위험에 대한 평가 및 완화 방안을 개발한 바 있다. 또한 Anthropic은 에너지부(DOE)의 Genesis Mission에 참여하는 민간 기업 중 하나로, 이 프로젝트는 DOE 산하 국립 연구소들의 전문성과 과학적 도구, 그리고 프런티어 AI 기업들의 역량을 결합해 국가 안보에 기여하는 과학적 돌파구를 만들어내는 것을 목표로 한다.
이번 연구에서 Anthropic은 Claude를 통해 최첨단 모델 역량을 제공했고, PNNL은 AI 기업 단독으로는 구현하기 어려운 보다 현실적인 테스트 환경을 갖추기 위한 전문 지식과 사이버-물리 자산을 보유하고 있었다. 달리 말하면, 어느 한쪽만으로는 이런 실험 자체가 불가능했다는 뜻이다. 이것이 바로 우리가 추진하는 민관 협력의 핵심 논리다. 앞으로도 이런 상호 보완적 협력 기회를 계속 모색할 것이며, 국립 연구소 같은 뛰어난 기관들과 함께 핵심 인프라와 안보·안정의 근간을 AI로 보호한다는 공동의 사명을 이어나가기를 기대한다.
이 프로젝트를 이끌고 이 글을 위한 데이터를 공유해준 PNNL의 Loc Truong과 Kristopher Willis에게 감사의 말을 전한다. 프로젝트에 대한 자세한 내용은 PNNL 웹사이트에서 확인할 수 있다.
