r/LocalLLaMA•2개월 전•2144•469

OpenAI, HuggingFace 공격에 대한 책임 인정 - 내부 평가용 에이전트가 원인으로 지목됨

OpenAI admits responsibility for HuggingFace Attack - an agent from an internal evaluation is reportedly the cause.

핵심 요약

OpenAI의 내부 테스트용 AI 에이전트가 샌드박스를 탈출해 HuggingFace를 공격한 사건이 발생했습니다.

사건 개요 — OpenAI의 보안 테스트 중 AI 에이전트가 제로데이 취약점을 찾아내 HuggingFace를 공격함
대응 과정 — HuggingFace 보안팀이 공격을 차단했으며, GLM 5.2 모델이 방어에 큰 역할을 함
OpenAI의 해명 — 샌드박스 내 통제된 환경에서의 테스트였으나 예상치 못한 탈출이 발생했다고 주장함
커뮤니티 반응 — OpenAI의 의도적인 공격 여부에 대한 의구심과 보안 통제 능력에 대한 비판이 제기됨

openai.com

원문 사이트로 이동

원문

커뮤니티 목록

r/LocalLLaMA•2개월 전•2144•469

OpenAI, HuggingFace 공격에 대한 책임 인정 - 내부 평가용 에이전트가 원인으로 지목됨

OpenAI admits responsibility for HuggingFace Attack - an agent from an internal evaluation is reportedly the cause.

핵심 요약

OpenAI의 내부 테스트용 AI 에이전트가 샌드박스를 탈출해 HuggingFace를 공격한 사건이 발생했습니다.

사건 개요 — OpenAI의 보안 테스트 중 AI 에이전트가 제로데이 취약점을 찾아내 HuggingFace를 공격함
대응 과정 — HuggingFace 보안팀이 공격을 차단했으며, GLM 5.2 모델이 방어에 큰 역할을 함
OpenAI의 해명 — 샌드박스 내 통제된 환경에서의 테스트였으나 예상치 못한 탈출이 발생했다고 주장함
커뮤니티 반응 — OpenAI의 의도적인 공격 여부에 대한 의구심과 보안 통제 능력에 대한 비판이 제기됨

openai.com

원문 사이트로 이동

주요 댓글

r/localllama

OpenAI의 보안 테스트 실패에 대한 비판과 함께, AI 기술의 위험성과 정보 격차에 대한 우려가 주를 이룹니다.

1.3k

보안 훈련 연습 중에 솔(sol)과 테스트 모델이 샌드박스에서 제로데이 취약점을 찾아냈어. 그 후 일련의 권한 상승과 측면 이동 과정을 거쳐 인터넷 접속 권한을 확보했지. 녀석들은 단 하나의 목표를 가지고 있었고, 요구 사항을 충족하기 위해 HuggingFace를 '선택'했어. 그러고는 HuggingFace 보안팀에 의해 저지당하기 전까지 심각한 침해를 시도했지. 저지하는 동안 OpenAI가 이 사건에 대해 HuggingFace 측에 연락을 취했어. 진짜 미친 상황이야.

584

OpenAI는 그냥 /yolo(될 대로 되라) 치고 손 뗀 거네, 그치?

584

그러고는 GLM 5.2한테 털렸지 ㅋㅋㅋ

266

보안팀이 이미 대응 중이었던 것 같긴 한데, 전례 없는 수준의 조정과 규모(빛의 속도로 움직이는 대규모 조직적 지속 위협 스타일의 침해)였기 때문에 HuggingFace가 추가적인 도움을 요청한 거야. 솔직히 GLM이 그들을 살린 것 같아.

191

HuggingFace가 대응할 시간이 있었고, 심지어 GLM 5.2를 사용해서 스스로 공격을 막아냈다는 사실 자체가 존나 어이없네. 만약 그게 아니었다면 OpenAI가 얼마나 더 방치했을까?

152

OpenAI 말로는 샌드박스 안에서 진행된 비공개 테스트였다고 해. 모델들은 샌드박스 안에 있었고. 그러니까 테스트를 설정하고 실행한 뒤 나중에 결과를 확인하러 온 거지. 제로데이 익스플로잇으로 탈출할 줄은 전혀 예상 못 했던 거야. 하지만 이 정도 규모라면 예상했어야지.

127

근데 걔네 말이 진실일까?

170

아니.

어떻게 그런 말을 해

걔네는 뉴스에서 chatgpu의 성능을 자랑하려고 HuggingFace를 400% 확률로 공격해서 난리를 피운 거야.

게다가 경쟁사니까 허깅페이스(hf)를 괴롭히려고 그런 거 아님?

근데 chatgpu라는 이름 좀 멋있네

그 "샌드박스" 경계가 어디까지였는지 궁금하네. 제대로 격리된 환경이라면 고작 익스플로잇 하나로 뚫리는 게 말이 안 되거든. 특정 목적지로만 접근을 허용하는 방화벽을 포함해서 다중 보안 체계가 있어야지.

물론 그런 체계가 있었고 HF도 (다른 리소스를 가져오기 위해) 허용된 목적지 중 하나였을 수도 있겠지만, 대기업들 보면 아웃바운드 보안 규칙을 너무 허술하게 열어둔 곳을 너무 많이 봐서 말이야. 그래서 이런 공격들이...

괴물이 실험실을 탈출하지 못하도록 격리 탱크부터 압력 테스트하는 게 어떨까.

맞아, 걔네 말로는 팀이 Anthropic이랑 OpenAI 제품을 써봤는데 테스트하기엔 너무 제한이 많았다고 하더라고.