또 한 번의 대규모 사이버 공격 이후, GMO는 정부의 개입을 촉구하며 "인터넷 자체가 붕괴 직전"이라고 경고함

인터넷 역사 내내 그래왔지만, 실제로는 방어자가 더 유리한 게 사실임. 보안에 대한 인식이 높아지면서 보안 수준은 나빠지기는커녕 훨씬, 훨씬 더 좋아졌음.

핵심은 단일 취약점이 공격 성공으로 이어지지 않도록 하는 다중 계층 접근 방식이고, 취약점이 발견되면 패치하는 거임. 공격자는 성공하려면 여러 취약점을 연쇄적으로 이용해야 하지만, 방어자는 한 번에 하나씩만 찾아내면 됨.

AI 때문에 '보안을 통한 은폐(security by obscurity)'가 더 어려워지겠지만, 양측이 공격과 방어에 동등한 노력을 기울이는 정상 상태에 도달하면 제대로 설계된 시스템은 문제없이 버틸 거임. 단기적으로는 오래된 취약점들이 한꺼번에 발견되고 패치되면서 약간의 혼란이 있을 수도 있겠지.

"인터넷을 폐쇄하고 통제하려는 움직임"이라니, 무슨 거대한 그림자 정부 음모론이라도 있는 것처럼 말하는데... 전혀 아님.

인터넷은 사적 이익이 얽힌 무법지대임. 거대 기업들 간의 조율과 그 정도로 많은 인원이 음모를 비밀로 유지하는 건 불가능함.

아니, 이 이야기는 무능함으로 훨씬 더 간단하게 설명됨: 현재 미국 정부는 무기력하고 멍청하며, AI 기업들은 무모하게 움직이고 있고, 전 세계의 무작위 개인이나 집단들이 이 미친 듯이 강력한 도구들을 활용해 인터넷 인프라가 얼마나 취약한지 드러내기 시작한 것뿐임.

개인 프로젝트 때문에 Railway를 쓰는데, 지난주에 Railway가 해킹당해서 많은/모든 프로젝트의 환경 변수가 털림. 사고 보고서에 따르면 해커들이 AI 제공업체의 API 키를 찾아서 증류 공격(distillation attacks)에 쓰려고 했다고 함.

내 생각엔 "증류 공격" 언급은 불필요했고, 그냥 오픈 웨이트 모델을 오염시키려는 수작 같음.

AI 옹호론자들이 인터넷이 어떻게 이 상황에서 살아남을지에 대해 설득력 있는 주장을 하는 걸 아직 못 봤음. 뭐, 문제에 AI를 더 쏟아붓는다는 것 말고는 말이지.

인터넷 밖에서는 삶이 없는 것 같은 사람들이 인터넷이 죽어가는 걸 보면서도 그렇게 태연한 게 참 흥미롭네.

왜 좋은 쪽으로 쓸 수는 없는 거냐? 캐나다 국세청(CRA) 해킹해서 내 체납 세금 좀 삭제해달라고.