Introducing Kimi K3.1 Pro: Advancing Open Intelligence
오픈 소스 모델 Kimi K3.1 Pro가 공개되었으며, 11월 4일에 전체 가중치가 배포될 예정입니다.
kimi.ai
원문 사이트로 이동
사용자들은 사이버 보안 기능이 제외된 모델의 홍보 방식에 대해 회의적이며, 도구의 제한이 실질적인 방어에 도움이 되지 않는다는 비판적인 시각을 보이고 있습니다.
사이버 관련 데이터 식별 및 제거. 개발 과정에서 우리는 포스트 트레이닝 규모가 커짐에 따라 취약점 연구 성능이 꾸준히 향상되는 것을 관찰했습니다. 이 경향의 원인을 추적한 결과, 사이버 관련 콘텐츠가 일반적인 미드 트레이닝 코퍼스에 포함되어 있었고, 사이버 관련 작업들이 RL 환경 믹스에 존재한다는 것을 발견했습니다. 이는 광범위한 데이터를 학습할 때 발생하는 자연스러운 부산물입니다. 내부 모델을 대상으로 한 예비 실험에서, 미드 트레이닝이나 RL 단계에서 데이터를 제거하지 않으면 다운스트림 사이버 역량이 상당히 증가한다는 것을 확인했습니다. 이러한 발견은 우리에게 통제를 위한 구체적인 수단을 제공했습니다. K3.1 Pro의 오픈 웨이트 릴리스를 위해, 우리는 모델의 유용성에 필요한 범용 코딩 작업은 유지하면서 두 학습 단계 모두에서 사이버 관련 데이터를 식별하고 제거했습니다. 우리는 앞으로도 모든 학습 단계에서 적절한 통제를 적용할 것이며, 사이버 관련 데이터 식별 및 제한은 그 예시 중 하나입니다.
어이없네. 누군가 이걸 다시 추가할 방법을 찾아냈으면 좋겠다.
걔들이 말 안 하는 건, 사전 학습 데이터에 사이버 관련 지식이 포함되어 있어야 안전한 코드를 생성하는 능력이 향상된다는 거야.
두 마리 토끼를 다 잡을 순 없지.
내 음모론인데, 이건 중국의 오픈 소스 AI 수출 통제랑 관련이 있는데 말하기 싫은 거 같아.
2조 파라미터가 넘는 대형 모델은 전 세계에 배포하기 전에 상무부(MOFCOM)에 수출 전 등록 절차를 거쳐야 해.
중국 규정은 자동화된 익스플로잇 생성, 악성코드 변종, 또는 국방이나 주요 인프라에 대한 사이버 공격을 수행하도록 설계되거나 파인튜닝된 AI 시스템을 명시적으로 제한하고 있어. 사이버 보안 데이터셋이 규제 기준을 넘으면 수출이 금지되지.
난 중국 정부가 제약 없는 Kimi K3.1 Pro를 가지고 있다고 확신해.
3T 모델에 사이버 능력을 다시 학습시키려면 엄청난 연산량이 필요할 텐데, 그렇지 않아? 파인튜닝만으로는 부족할 것 같고, 아예 학습 데이터에서 완전히 제거해버린 것 같아.
인기 없는 의견일 수도 있는데, 답이 뭘까? 지난주에 있었던 해킹이나 보안 제로데이 버그들을 보면 우리가 망한 것 같다는 생각이 들어.
오픈 모델이 사람들이 스스로를 보호하게 해주기도 하지만, 악의적인 공격자들도 가능하게 만들잖아.
뭐가 옳은지 말하려는 건 아니지만 미래가 암울하게 느껴져. 6개월 전엔 말도 안 된다고 생각했는데 이제는 아니야.
이미 엎질러진 물이야. 우리가 할 수 있는 최선은 운동장을 평평하게 만들고 모든 제품과 시스템의 보안 업데이트를 가속화하는 거지. 버그는 책임 있는 공개를 하는 좋은 사람들이 찾아서 보고하게 해야 해. 악의적인 공격자들 중에는 최고의 모델에 접근할 수 있는 국가 기관들도 포함되어 있으니까.
가끔 이 서브레딧은 그냥 세상이 망하길 바라는 것 같아 ㅋㅋ
답은 사람들이 스스로를 방어할 수 있도록 도구를 제공하는 거야. 선한 사람들의 도구를 제한하면 모든 수준의 방어력을 깎아먹는 꼴이지. 악의적인 공격자들은 어차피 어떻게든 방법을 찾아낼 테니까. 공격자는 한 번만 성공하면 되지만, 방어는 24시간 내내 영원히 해야 하는 거잖아.
어이없네. 누군가 이걸 다시 추가할 방법을 찾아냈으면 좋겠다.
문샷은 이제 그냥 미국 연구소라고 불러도 되겠네, 웩.
진짜 구리네.
전체 모델 가중치는 11월 4일에 공개될 예정.
가장 중요한 부분
사이버 보안 기능 뺀 '풀(Full)' 버전이라니 🤡
그래, 다들 분명히 보호용으로만 쓰려고 했겠지, 그치?
MiniMax-M3.1-Flash 모델 공개에 대한 기술적 분석과 하드웨어 요구 사양에 관한 논의입니다.
MiniMax-M3.1-Flash 모델 공개에 대한 기술적 분석과 하드웨어 요구 사양에 관한 논의입니다.
코딩 경험이 없는 개발자가 Claude와 Godot를 활용해 6주 만에 인디 게임을 개발한 과정과 노하우를 공유합니다.
코딩 경험이 없는 개발자가 Claude와 Godot를 활용해 6주 만에 인디 게임을 개발한 과정과 노하우를 공유합니다.
AI 모델이 엉뚱하고 냉소적인 답변을 내놓는 현상에 대해 사용자들이 재미있어하거나 피로감을 느끼는 반응을 보임.
AI 모델이 엉뚱하고 냉소적인 답변을 내놓는 현상에 대해 사용자들이 재미있어하거나 피로감을 느끼는 반응을 보임.