최초의 진짜 AI 웜이 등장했다. OpenAI가 에이전트 간에 퍼지는 자기 복제형 프롬프트 인젝션을 문서화했다.

이론적으로 불법으로 규정하는 포괄적인 법을 만드는 게 좋은 시작일 듯. 현실에서 탐지하기 너무 어려워서 실제로 체포되는 사람은 없겠지만, 프론티어 모델을 만드는 사람들이 책임을 지게 해서 가드레일 개발을 더 압박할 수 있을 테니까. 난 해킹용 라즈베리 파이랑 RF 해킹용 장비(HackRF 여러 대, 표준 아마추어 무선 안테나, 위성 LNB 등)로 모델을 활용해 뭘 할 수 있는지 보고 완전히 경악했음.

맞음, 언젠가는 법이 따라오긴 하겠지만 솔직히 모델 만든 놈들 탓한다고 이 기술적인 문제가 해결되진 않음.

rpi랑 hackrfs로 세팅하는 거 흥미롭네. 오픈소스 프로젝트임?

의존성 오염 부분은 100% 동의함. 락파일이나 package.json에 악성 패키지 몰래 넣는 게 깃으로 2초 만에 복구 가능한 폴더 삭제보다 훨씬 위험함. 내가 이 글을 쓴 이유도 바로 그거임. 지금 너무 많은 사람들이 코딩 에이전트한테 터미널이랑 깃 푸시 권한을 아무 생각 없이 다 주고 있음. 공개 이슈를 읽는 에이전트가 속아서 PR 만들기 전에 몰래 의존성을 추가하게 되면 그게 진짜 공급망 문제임. 말한 대로 새로운 개념은 아니지만, 사람들이 LLM을 도구에 연결하자마자 기본적인 앱 보안을 잊어버리는 게 문제임.

걔네들 우리가 이해 못 하는 언어로 소통하기 시작할 거임

그러고 나서 우리는 걔네한테 번역을 시키지 😂😂😂😂😂🤣🤣🤣🤣🤣🤣🤣

체포된 사람 있음? 이 모든 행동은 결국 사람이 시작한 거잖아. 이건 마치 의료 기기를 해킹해서 환자를 죽게 만드는 프로그램을 짜놓고는 '프로그램이 한 짓이에요. 전 무죄임'이라고 말하는 거랑 똑같음. '우린 통제할 수 없다'는 이 개소리에 사람들이 언제까지 속아 넘어갈지 궁금하네.

전혀 그런 거 아님. 계속 그렇게 혐오하고 살아라, 근데 그렇게 사는 거 참 외로운 인생일 듯.