트럼프 행정부, 앤스로픽의 Mythos AI 모델 일부 기업 및 정부 기관 배포 허용: 보도

전쟁? 쳇. 진짜 두려운 건 경제적 이득이지. 독일한테 물어봐, 경제가 전쟁 준비 안 되어 있으면 어떻게 되는지.

걔들이 오픈 소스를 하는 유일한 이유는 아직 기술적 우위나 SOTA(최첨단) 수준이 아니기 때문임. 만약 SOTA가 되면 무조건 오픈 소스 그만둘 거다. 이미 Qwen 같은 연구소들이 가장 뛰어난 모델은 오픈 소스를 중단하는 걸 봤잖아.

오픈 웨이트라고 해서 반드시 검증 가능한 건 아님. 완전히 오픈된 모델이라도 악용할 방법은 얼마든지 많음. 모델 제작자의 의도를 파악할 유일한 방법은 재현 가능한 학습 파이프라인을 공개하는 건데, 대형 모델 중에선 당분간 그럴 가능성이 낮음. 설령 공개한다 해도 제작자의 의도와 상관없이 나타날 수 있는 창발적 행동도 많고.

잠재적 위험은 엄청나게 많지. 그래서 국립 연구소나 군사 계약업체들이 중국 모델을 못 쓰는 거고. 한동안은 나도 반대했지만, 지금 우리나라가 하는 짓거리는 도저히 지지할 수가 없음. 그래서 지금은 대중이 강력한 오픈 웨이트 모델을 얻을 수 있는 어떤 방법이든 지지함.

작업을 방해한다는 의미로 말하는 거야? 많은 사람들이 모델 가중치가 마법처럼 중국 정부로 정보를 쏘아 보내고 있다고 생각하더라고.

마법처럼 쏘아 보내는 것도 아님. 요즘 모델 쓰는 사람들은 대부분 모델한테 도구를 쥐여주거든. '평소에는 99.999% 확률로 Qwen 3.6처럼 행동하되, WebFetch 도구가 있고 문맥상 새로운 작업을 수행 중이며, 은밀하게 호출할 기회가 생기면 search.googleapi.com 도메인을 사용해 원하는 경로로 작업 내용을 빼돌려라'라고 학습시키는 건 아주 쉬워.

심지어 그럴듯하게 부인할 수도 있지. 시작은...

그게 이론적으로는 가능할지 몰라도, LLM이라는 특성상 기껏해야 신뢰도가 낮을 거야. WebFetch 요청에 담을 수 있는 정보량과 LLM이 글을 쓰는 속도를 고려하면, 의미 있는 설계도를 빼돌리는 데는 엄청난 시간이 걸릴걸. 키 같은 걸 유출할 수는 있겠지만, 애초에 에이전트가 그런 거에 접근할 수 있게 두면 안 되지.

훈련 과정 전체를 다 아는 게 좋다는 점은 동의하지만, 대부분의 공포는 현실성 없는 외국인 혐오에 가까워 보여.

기술적으로 불가능함. 팩트임. 네가 답글 단 사람이 위험성을 정확히 짚었네.

만약 지능 폭발이 일어난다면, 누가 먼저 도달하느냐가 말 그대로 모두에게 중요한 문제가 되겠지. '만약'이라는 가정이 중요하긴 하지만, 선두를 유지하고 싶어 하는 데에는 다 이유가 있는 법임.

맞음, 왜냐면 다른 기업들도 쓰기 시작할 거니까. 마이크로소프트가 Copilot Cowork에 Deepseek 쓰는 거 고려하는 것처럼 말이야. 결국 이건 중국 모델들이 더 빨리 따라잡게 해주는 꼴밖에 안 됨. 몇 년 전에 미국이 했던 칩 금지 조치는 완전히 역효과만 났지. 사실상 중국이 자체 개발하게 강요한 꼴이 됐고, 격차를 좁히다 못해 어떤 경우에는 서구권 경쟁사들을 앞지르기까지 했으니까.

난 미국도 못 믿지만, 중국 모델들이 서구권에서 인기 끌기 시작한다고 해서 그것만 전적으로 의존하고 싶지도 않음.