현재 상황: Claude Fable

그 와중에 프롬프트를 수집해서 훔칠 수 있는 비밀은 다 훔쳐 가겠지.

그리고 생성된 코드에 백도어를 심어놓을지도 모르고.

중국 클라우드 제공업체를 통하면 그렇겠지. 하지만 오픈 웨이트 모델(많은 중국 LLM이 그렇듯)의 장점은 자기 하드웨어에서 직접 돌리거나 그 목적을 위해 클라우드 GPU를 빌릴 수 있다는 거야. 그런 식으로는 데이터를 수집해 갈 수 없지.

학습된 오픈 소스 모델도 여전히 반쯤은 블랙박스야. 사후 학습을 거쳐도 모델에 악의적인 의도를 가진 임베딩이 인코딩되어 있지 않다고 장담할 수는 없어.

원칙적으로는 네 말이 맞지만, 현실 세계에서 그런 일이 일어나는 건 본 적이 없어. 수백만 명이 이런 모델을 사용하고 호스팅하고 있지. 만약 이 모델들에 그런 기능이 실제로 내장되어 있었다면 보안 사고나 비슷한 사건들에 대해 많이 들었을 거야. 솔직히 알 방법은 없지만, 사람들이 그걸 알아차리기 시작한다면 중국 AI 업계 전체에 정말 끔찍한 PR이 될 거야.

오픈 소스는 게릴라/파르티잔 부대 같은 거야. 지역 주민들을 다 몰살하지 않고서는 그들을 몰살할 수 없어. 왜냐면 그게 바로 지역 주민들이니까.

오픈 소스는 사람들이 존재하는 한 계속 살아남을 거야.

조심해, 정부한테 아이디어 주지 마. 걔들은 이제 로봇을 위해서라면 사람들도 몰살할 수 있으니까 ㅋㅋㅋ

하지만 한계 없이 과장하는 것도 단점이 있지, 특히 그게 기본적으로 "거짓말"일 때는 더더욱.

어떤 상황에서는 좋고 멋지기도 하지만, "AI가 네 자녀를 키우고 네 아빠를 해고할 거야" 같은 헛소리는 이제 그만해야 해. 이번 일은 CEO들에게 정신 차리라는 (개 같은 괴롭힘 방식의) 경고처럼 보이네.