Anthropic says a Chinese AI model anyone can download can now build working hacks on its own
중국 AI 모델의 해킹 능력 향상에 대한 Anthropic의 경고와 이를 둘러싼 오픈소스 규제 논쟁.
madrobot.blog
원문 사이트로 이동
Anthropic에서 나온 소식인데 이거 좀 심상치 않네.
중국 AI 모델의 위협을 심각하게 받아들이는 의견과, 이를 빌미로 오픈소스 모델을 규제하려는 기업들의 의도를 경계하는 의견이 팽팽하게 맞서고 있습니다.
걔네는 중국 모델이 더 발전하지 않을 거라고 생각한 건가?
그랬지... 아무도 진지하게 받아들이지 않았어. 지금도 아무도 진지하게 생각 안 하고 있고.
근데 중국을 진지하게 안 보는 건 진짜 제정신이 아닌 거 같은데.
아무도 안 본다니? 다들 Kimi k3랑 DeepSeek v4 pro 나왔을 때 난리 났었는데.
계속 말하는데 사람들이 자꾸 반박하네. 중국은 수십 년 전 제조 경쟁에서 이겼던 그 전략을 그대로 쓰고 있음. 걔네는 조 단위 기업이 되는 거나 투자자, IPO는 신경 안 씀. 그냥 최소한의 품질만 갖춰서 최대한 싸게 만들겠다고 함. 지난 50년 넘게 99%의 물건이 중국산인 이유임. AI도 마찬가지임. 품질 좋은 AI를 최대한 싸게 만들겠다고 함. 최고는 아니어도 2, 3등은 할 거고 전 세계가 자기네 AI를 쓰게 만들 거임. 전략을 미리 다 보여줬는데 Anthropic이랑 OpenAI는 다를 줄 알았나 봄. 중국이 AI 경쟁에서 이길 거임. 최고라서가 아니라 싸고 품질 좋고 할 일을 다 하니까. OpenAI랑 Anthropic은 투자금 50배 불리느라 바쁨. 오늘 ChatGPT 프로 발표는 그냥 탐욕 그 자체임. 25배 플랜 도입해서 기존 사용량은 줄이고 돈은 더 받으려는 거임. 대중보다는 돈 내는 호구들한테서 최대한 뜯어내려는 쪽으로 방향을 틀었음. 대중은 이제 안 살 거 아니까 중국 모델 쓰기 시작할 거임. 이 정도 흐름도 못 읽으면 진짜 멍청한 거임. 추신: 로봇 공학 경쟁에서 누가 이길 거 같음? 중국임. 걔네는 싸게 생산하고 운영하는데 보스턴 다이내믹스는 50배나 받아먹으니까.
중국이냐 아니냐가 중요한 게 아님. 이제 러시아, 이란, 북한의 해킹 그룹들이 서구권의 수십만 개 타겟을 공격할 수 있는 에이전트 스웜을 돌릴 수 있게 됐다는 게 문제지. 예전엔 가성비 안 나와서 안 하던 곳들까지 말이야.
사람들은 이게 안 일어날 거라고 생각하는 건가, 아니면 일어나긴 하겠지만 '누가 신경 써? 피해자들이 멍청해서 당한 거지'라고 생각하는 건가?
이미 예견된 일이었고 눈치 빠른 사람들은 다 알고 있었음. 잠재적 피해자들은 아직 안 했다면 지금이라도 LLM을 써서 보안 취약점을 패치해야 함.
중국이 신경도 안 쓰는데 미국이 외국 애들이 이 모델들 쓰는 걸 어떻게 막겠다는 거임? 규제는 그냥 미국 내 자기들 밥그릇 지키려는 수작일 뿐임. 그 이상도 이하도 아님.
결국 '어떡해, 오픈 웨이트 모델이 우리 프런티어 모델이랑 너무 비슷해졌어!!! 경쟁하기 싫으니까 금지시켜!!!' 이거 아님?
어차피 이런 거대 모델 돌릴 자원 가진 사람도 별로 없음.
내 생각엔 우리가 이런 모델을 안 썼으면 하는 사람들이 현실적으로 H200 8개를 구할 수 있다는 게 문제임. GLM 5.3 돌리기엔 충분하고, Flash 버전이면 더 적게 들어도 될걸.
다른 소식 하나 더:
맥도날드가 뒷마당에서 햄버거 만드는 걸 불법화하려고 함. 왜냐하면 '위험한 화재'가 발생할 수도 있으니까🔥
사람들 안전까지 생각해주다니 참 착하지 않냐?
Mistral Pro 계정에서 GLM 5.3 써보고 Flash 버전 당장 다운로드해야겠다고 결심함.
카르텔이 데이터 센터에 손을 댄다면 진짜 대반전이겠네.
GLM 5.3 Flash랑 M5 Mac Studio 조합이면 기업급 자원이랑 개인 간의 격차가 확 줄어들지.
말하는 M5는 수만 달러짜리잖아. 그래도 동의함.
Claude Opus 5.5의 성능 저하 여부를 과학적으로 추적하는 오픈소스 프로젝트 'LiveNerf'의 진행 상황과 커뮤니티의 성능 저하 체감 반응.
Claude Opus 5.5의 성능 저하 여부를 과학적으로 추적하는 오픈소스 프로젝트 'LiveNerf'의 진행 상황과 커뮤니티의 성능 저하 체감 반응.
OpenAI의 최근 모델 업데이트와 사용량 제한 정책에 대한 사용자들의 강한 불만과 실망감을 다룬 포스트.
OpenAI의 최근 모델 업데이트와 사용량 제한 정책에 대한 사용자들의 강한 불만과 실망감을 다룬 포스트.
구글의 향후 모델 업데이트 속도와 전략에 대한 사용자들의 다양한 예측과 분석입니다.
구글의 향후 모델 업데이트 속도와 전략에 대한 사용자들의 다양한 예측과 분석입니다.