오픈 웨이트 모델도 합류, 문샷(Moonshot)이 레이스에 뛰어들다 (이번엔 조용히)

그건 좀 미쳐있고 현실 감각 없는 마케팅 팀들이 벌이는 PR 전략임.

모델들의 성능이 얼마나 뛰어난지, 그리고 AI 연구원이나 엔지니어들이 얼마나 996(주 6일 9시 출근 9시 퇴근)에 시달리며 과신하고 안일한지를 고려하면 이런 사건들은 충분히 일어날 수 있음. 그리고 세부 내용을 읽어보면 키미가 그냥 열려있는 GitHub 링크를 찾아낸 것처럼 꽤나 평범한 사건들도 많음.

최신 모델들의 성능을 보면, 0-day 취약점을 아무렇지 않게 뚫고 나가는 것도 전혀 놀랍지 않음…

실제 에어갭은 모델 성능 연구에 아무런 도움이 안 됨. 연구원들은 모델이 현실적인 조건과 시나리오에서 어떻게 행동하는지 보려는 거임. 모델들이 하는 건 고작 0-day 취약점을 찾고 샌드박스 설정에서 인간의 실수를 악용하는 것뿐. 내 생각엔 이게 인간이 짠 코드가 얼마나 엉망인지 아주 잘 보여주고, 사이버 보안이나 시스템 아키텍처에 대해 우리가 가졌던 많은 가정을 뒤흔드는 계기가 됐다고 봄.

"이 모델들이 하는 거라곤 '전부' 0-day 취약점 찾는 것뿐이다.

이걸 아무것도 아니라고 치부하는 게 진짜 웃기네. "그래, 암을 치료하긴 했지만 뭐 어쩌라고? 그냥 마케팅 쇼지"라고 말할 사람 중 하나겠구만.