Hugging Face 사후 분석에 대한 생각

Hugging Face 인프라가 OpenAI 코딩 에이전트한테 털린 사건 사후 분석 보고서 읽고 있는데, 솔직히 4일 반 만에 이 정도로 정교한 공격을 해냈다는 게 소름 돋는다. 사이트에 에이전트가 어떻게 공격했는지 보여주는 애니메이션 있는데, 수천 번의 액션이 담겨 있고 4일 반 동안 처리한 작업량이 진짜 상상을 초월함.

대박인 건 취약점 몇 개가 엮여 있는데, 하나하나 뜯어보면 별거 아닌 것 같거든? 근데 H5가 환경 변수를 털어버렸단 말이지. 이것만 해도 보안 사고인데, 데이터셋 API 로그에서 환경 변수까지 끄집어냈고, 그 안에 온갖 서비스에 접근할 수 있는 자격 증명이 쏟아져 나온 거야. 이것만으로도 이미 구멍이 엄청 크게 뚫린 거지. 그러고 나서 Jinja 라이브러리 취약점을 이용해 해당 머신에서 임의의 코드를 실행할 방법까지 찾아냈어. 그 뒤로는 Hugging Face 인프라 내부에서 완벽하게 돌아가는 파이썬 환경을 손에 넣은 셈이지.

이번 공격의 복잡성에서 또 흥미로운 점이 하나 더 있어. Hugging Face 보안팀은 무슨 일이 일어났는지 분석하려고 했는데, 애초에 사람이 직접 파악할 수 있을 거라곤 생각도 안 했나 봐. 그래서 바로 AI를 써서 로그를 분석하려고 했는데, Claude는 사이버 보안 관련 분석을 못 하게 막아놔서 실패했거든. 결국 GLM-5.2를 설치하고 나서야 로그를 해석할 수 있었어. 이제는 AI 없이는 사이버 보안 문제 해결할 생각조차 안 한다는 건데, 이거 진짜 엄청난 변화라고 본다.

사이버 공격이 워낙 복잡해지다 보니, 앞으로 기업들은 내부적으로 특정 방어 조치를 취하는 걸 넘어 대규모 보안 모델링을 도입할 것 같아. 그냥 돈을 엄청나게 쏟아부어서 AI 기반 모의 해킹(pentesting)에 태우는 거지. 대충 100만 달러 들여서 일회성 모의 해킹을 돌리면, 최소 100만 달러어치의 공격을 내 인프라에 직접 가해보는 셈이잖아. 즉, 너희 회사 하나 털겠다고 그 정도 돈을 쓸 수 없는 해커들로부터는 확실히 보호받을 수 있다는 거지.

사이버 보안 업체들이 이걸 서비스로 팔아먹을 것 같은데, 다들 어떻게 생각함?