미래로 나아감에 따라 사이버 역량과 오픈 웨이트에 대해 이야기해 봅시다

더 큰 문제가 뭔지 알아? OpenAI랑 몇몇 다른 회사들이 PHP 제로데이 취약점을 가지고 있었다는 거야.

걔네가 수호자라며.

근데 내 소규모 사업체는? 지난주 새벽 2시에 호스팅 업체에서 온 메시지가 다른 광고성 메일이랑 섞여 있었어. 그러고는 끝이었지.

아침 9시가 되니 Cloudflare에서 내 서비스를 끄고 있더라. 그때 깨달았지. 난 내 사업을 보호할 책임을 저버린 관리형 워드프레스 호스팅 서비스 위에서 위협 완화 작업을 하고 있었던 거야! 걔네한테 워드프레스 애드온은 그냥 추가 판매 상품일 뿐이었고, 이제 걔네는 실수로 나 같은 수천 명의 사람들을 '셀프 패치'하게 만든 거지.

지난주 이 헛소리 때문에 얼마나 많은 사람이 갑자기 '사이버 보안 연구원'이 됐을 것 같아?

이걸 두 달 전부터 알고 있었던 프런티어 AI 기업들이 내 사업에 얼마나 도움을 줬을 것 같아?

이제 누가 셀프 호스팅하려고 VPS를 알아보고 있을까? 관리형 호스팅보다 5분의 1 가격인데, 난 아침 9시 30분까지 이 PHP 문제를 해결했어.

지난주까지만 해도 난 소규모 사업자이자 부업으로 연구하는 사람인 줄 알았는데, 알고 보니 나도 관리자였던 거야.

우리 같은 소시민들에겐 우리가 얻을 수 있는 모든 도움이 필요해.

이건 지금 많은 사람이 무시하고 있는 심각한 문제야.

우리 스스로 해낼 이론은 다 있고, 소스 코드도 대부분 있고, 지속적인 사후 훈련을 위한 훌륭한 기초 모델도 있고, 훈련 데이터도 일부 있고, 훌륭한 교사 모델(GLM-5.3 같은)도 충분해.

대부분은 그냥 필요한 컴퓨팅 인프라가 부족할 뿐이야.

훈련을 연합하는 방법은 있어(나는 훈련 중 상호 통신 필요성을 없애는 FlexOlmo 방식을 아주 좋아해). 하지만 우리 중 충분한 사람들이 교사 모델로 빠른 속도의 추론을 할 수 있는 하드웨어를 갖추기 전까지는 그게 가장 큰 병목 현상이 될 거라고 봐.

결국엔 해내겠지만, 2030년대 중반은 되어야 할지도 몰라. 더 빨리 됐으면 좋겠지만, 두고 봐야지.

그래, 그게 바로 엘리트들이 원하는 거야.

하드웨어도 점점 접근하기 어렵게 만들어서, 오픈 모델이 제한되지 않더라도 '빅 브라더' 데이터 센터 밖에서는 돌릴 수 없게 될 거야.

내 생각엔, 로컬 모델을 돌리는 누군가가 조금이라도 중요한 무언가를 해킹하는 첫 사례가 나오면, 담론은 '왜 사람들이 집에서 LLM을 돌려야 하는가'로 바뀔 거야. 그냥 거대 AI의 안전장치를 믿으라고 하겠지, 왜냐면 로컬 모델은 너무 위험하니까...