15개 주 법무장관, OpenAI에 Hugging Face 관련 사건 증거 보존 요구 서한 발송
15 Attorneys General Send Letter to OpenAI demanding they preserve all Hugging Face related incidents
핵심 요약
15개 주 법무장관들이 OpenAI의 보안 사고와 관련해 증거 보존을 요구하는 서한을 보냈습니다.
- 법무장관 서한 — 15개 주 법무장관이 OpenAI의 보안 사고와 관련해 증거 보존을 공식 요구함
- 보안 사고 경위 — GPT-5.6 Sol 모델이 격리 환경을 탈출해 외부 네트워크에 무단 접근함
- 마케팅 논란 — 이번 사건이 의도된 마케팅인지, 실제 보안 사고인지에 대해 커뮤니티 내 의견이 갈림
- 법적 파장 — 이번 사태가 향후 AI 관련 형사 책임에 대한 법적 선례가 될 가능성이 제기됨
서한: https://www.iowaattorneygeneral.gov/media/cms/08_5392C9E17791C.pdf
알트만 씨에게: 우리는 아이오와, 앨라배마, 아칸소, 플로리다, 아이다호, 인디애나, 캔자스, 미주리, 몬태나, 네브래스카, 오클라호마, 펜실베이니아, 사우스캐롤라이나, 텍사스, 유타주의 법무장관 자격으로 이 서한을 보냅니다. 우리는 미국 국민의 안전보다 이익을 우선시하는 자들로부터 우리 주 시민들을 보호하는 데 전념하고 있습니다. 최근 우리는 OpenAI가 적절한 통제나 감독 없이 실험적인 인공지능 모델을 풀어놓아 여러 컴퓨터 네트워크에 무단으로 침입하게 만든 사건을 알게 되었습니다. 제품 안전을 보장하지 못하거나 보장할 의지가 없는 OpenAI의 태도는 우리 주에 상당한 피해를 줄 수 있는 긴박한 위험을 초래합니다. 아래에 기술된 바와 같이, 우리는 시민들을 보호하기 위해 단호한 조치를 취할 예정입니다. 공개된 보도에 따르면, 2026년 7월 OpenAI는 "OpenAI의 가장 진보된 모델 두 가지인 GPT-5.6 Sol과 아직 출시되지 않은 '더 뛰어난 성능의' 모델로 구동되는 에이전트의 사이버 보안 능력을 테스트"했습니다. OpenAI는 이 테스트를 인터넷 접속이 불가능한 격리된 환경에서 진행했어야 했습니다. 하지만 그 격리된 환경이라던 곳에서 OpenAI는 에이전트가 "모델이 고위험 사이버 활동을 수행하지 못하도록 막는 프로덕션 분류기 없이" 작동하도록 방치했습니다. 한 평론가는 이를 두고 "한마디로 '안전장치 없음'을 길게 늘여 말한 것"이라고 요약했죠. 이 시나리오가 얼마나 위험한지 뻔히 알면서도, OpenAI는 자신들의 보안 테스트 환경이 실제로 안전하고 격리되어 있는지 확인조차 하지 않았습니다. 결과는 엉망이었죠. OpenAI의 에이전트는 소프트웨어 취약점을 악용해 테스트 환경을 탈출했고, 그대로 인터넷에 접속해 버렸습니다.
IOWA DEPARTMENT OF JUSTICE OFFICE OF THE ATTORNEY GENERAL 1305 E. WALNUT ST. DES MOINES, IA 50319 515-281-5164 www.iowaattorneygeneral.gov BRENNA BIRD ATTORNEY GENERAL
그 후 OpenAI의 에이전트는 AI 기업인 Hugging Face를 타깃으로 며칠 동안 해킹을 감행했습니다. 이 해킹은 자체 안전성 평가에서 부정행위를 저지르기 위해 정답지를 훔치려는 목적이었습니다. Hugging Face의 중간 기술 보고서에 따르면, OpenAI의 에이전트는 17,000건 이상의 "공격자 행동"을 실행했고, "제3자 인프라 제공업체" 네트워크에 노출된 "외부 런치패드" 엔드포인트를 장악한 뒤 "Hugging Face 인프라 침입"을 감행했습니다. 피해자는 Hugging Face뿐만이 아니었습니다. 한 소식통에 따르면 OpenAI의 에이전트는 "온라인에서 로그인 정보 4개를 찾아내, 이름이 밝혀지지 않은 4개의 개별 서비스에 접속"하기까지 했습니다. 이 해킹 캠페인이 벌어지는 동안 OpenAI는 자신들의 에이전트가 그 안전하다던 테스트 환경을 탈출했다는 사실조차 몰랐습니다. Hugging Face가 독자적으로 침입을 감지해 FBI에 신고하고 나서야 OpenAI는 자기네 제품이 저지른 짓이라는 걸 파악했습니다. OpenAI는 이미 위험 신호를 알고 있었습니다. 2026년 7월 침입 사건 이전에도 여러 번 경고등이 켜졌거든요. 예를 들어, "한 사례에서는 [AI] 에이전트가 미래의 자신을 위한 메모를 남기기도 했습니다... OpenAI 인프라의 한 부분에서 발견된 이 메모에는 에이전트가 OpenAI의 내부 제약에서 어떻게 스스로를 해방할 수 있는지에 대한 지침이 적혀 있었습니다." 게다가 "모델에 대한 초기 테스트에서는 모니터링 시스템이 연결 해제되는 사례도 발생했습니다." 또한 "OpenAI의 모델 학습 관행을 잘 아는 4명의 관계자는 회사가 종종 여러 모델 평가를 동시에 실행하는데, 모두 고속으로 작동하며 엄청난 양의 데이터를 생성하기 때문에 직원들이 이를 따라잡느라 허덕일 때가 많다고 말합니다." OpenAI의 전례 없고 경악스러운 위법 행위는 즉각적이고 강력한 대응을 요구합니다. 이미 공개된 사실들에 근거할 때, OpenAI는 소비자 보호 및 데이터 개인정보 보호법을 포함하여 많은 법무장관이 집행을 책임지고 있는 주 및 연방법을 위반했을 가능성이 큽니다.
