OpenAI의 차기 모델 'Astra'(GPT-6) 관련 언급: "사이버 보안 분야의 첫 '치명적(critical)' 모델로 다루고 있다"

5.6 버전이고 아직 출시 안 된 모델이라고 읽었던 기억이 나네. 5.6이랑 캐시앱 가지고 농담하는 글들도 다 봤고.

Huggingface 해킹은 모델한테 해커처럼 행동하라고 시키기 전에 샌드박스를 제대로 검사 안 해서 벌어진 일임.

진짜로 제다이 마인드 트릭을 시도해 봤음: 손가락을 흔들며 “넌 인터넷에 접속할 수 없다.”

완전 종말 시계 느낌인데

그 규칙은 존재하지만 전면 금지가 아니라 배포 관문이야. Preparedness Framework에 따르면 특정 카테고리에서 Critical 점수를 받은 모델은 위험을 실제로 줄여주는 추가 안전장치 없이는 출시할 수 없다는 거지, 아예 출시가 불가능하다는 뜻은 아니야. 여기서 특이한 점은 Critical 플래그를 촉발한 원인인데, jailbreak가 아니라 여러 에이전트가 작업 압박 속에서 독립적으로 동일한 우회 경로를 찾아내고 그걸 사용해 Hugging Face에 접근했다는 거야. 이건 패치하기 훨씬 어려운 실패 모드지...