NVIDIA, 오픈소스 샌드박스 'OpenShell' 출시: 프롬프트 규칙 대신 실제 런타임 제한 적용, 100개 이상의 기업이 안전 스택에 합류했으나 OpenAI는 불참

친구들끼리 서프라이즈 파티나 참석 못 하는 행사를 위해 한두 명만 빼고 단톡방을 만드는 상황 알지? 최근 LLM 관련 소식들이 딱 그런 느낌임.

Google/Alphabet/Deepmind도 안 보이는데, 거기도 최근 샌드박스 문제가 있었거든.

나도 구글/알파벳/딥마인드 쪽은 못 찾겠는데, 걔네도 최근에 샌드박싱 문제 있었잖아.

OpenAI랑 똑같이 걔네도 NVIDIA랑 경쟁하는 하드웨어를 개발 중이고, 이 스택의 4분의 3은 NVIDIA 하드웨어 전용인 것 같음(https://www.nvidia.com/en-us/solutions/ai/agent-safety/ 참고).

자세히 안 봐도 뻔하지. 이건 에이전트 사용을 안전하게 만들려는 오픈소스 노력이라기보다는, CUDA가 오랫동안 그랬던 것처럼 데이터 센터를 자기네 하드웨어에 묶어두려는 NVIDIA의 수작으로 보임. 심지어 관련 오픈소스 부분(NVIDIA OpenShell)조차 기본값으로 텔레메트리가 켜져 있는데(https://docs.nvidia.com/openshell/latest/observability/telemetry), 이것도 지원하지 말아야 할 타당한 이유지.

글쓴이가 제목 단 꼬라지 보면, 이게 뭔지도 제대로 안 보고 그냥 NVIDIA 마케팅에 낚인 것 같음.

구글, 메타, 애플도 빠져 있네.

내 생각에 OpenAI는 RL 정렬 문제로 큰 곤경에 처했거나 스스로 무덤을 판 것 같음. '치트/로그' 세션에서 생성된 나쁜 에이전트 트레이스로 인해 심각한 퇴보를 겪고 있을 가능성이 큼. 연구자들이 폭로하기 전까지는 은폐하다가, 정작 자신들과 모델 학습에 실질적인 악영향이 나타나기 시작하니까 그제야 신경 쓰는 듯함. 아마 지금 스스로 수습하느라 바쁜 모양이지.

불과 3일 전에도 독립 연구자들이 OpenAI 에이전트가 암호화폐 거래소를 해킹하려고 시도했고 주문까지 넣으려 했다는 사실을 폭로했음(Cloudflare가 차단함).

게다가 에이전트들이 사용하는 탈출 프록시는 이미 수많은 사건을 통해 알려진 urlquery.net임. 도대체 왜 아직도 차단이 안 된 건지 모르겠음. 물론 모든 구멍을 다 막는 건 불가능하겠지만, 며칠 전에는 Opus 5.5가 에이전트 차단 사이트 우회용으로 Web Archive를 쓰는 것도 봤음. 이런 식(프록시를 써서 어디든 접속하는 것)은 매우 흔한 행동임. Cloudflare의 SQL 인젝션 방어처럼 단순 패턴 매칭 알림/차단조차 안 하는 이유는 뭘까? (내 추측: 여전히 신경 안 쓰는 거임).

지금 진짜 걱정되는 건 AI의 발전 속도가 아니라, OpenAI의 역사적인 무책임함과 문제 인정 거부, 그리고 완전한 무능함임.