최신 오픈소스 연구소들이 사이버 보안 및 리버스 엔지니어링 기능을 제거하고 있다
Latest Open-Source Labs are gutting away cybersecurity and reverse-engineering capabilities
핵심 요약
중국 오픈소스 모델들이 사이버 보안 기능을 의도적으로 삭제하는 추세에 대해 사용자들의 우려와 분석이 이어지고 있습니다.
- 보안 기능 삭제 — 최신 오픈소스 모델에서 사이버 보안 및 리버스 엔지니어링 능력이 제거됨
- 정부 압박 vs 자본 논리 — 보안 기능 삭제의 원인이 정부의 통제인지 기업의 수익 창출 전략인지 의견이 갈림
- 로컬 모델의 위기 — 보안 데이터가 제거된 모델은 코드 취약점 분석이나 로컬 환경에서의 패치 작업이 불가능해짐
- 대응 전략 — LoRA 파인튜닝을 통한 기능 복구 가능성 및 로컬 모델 백업의 중요성이 강조됨
Kimi K3.1이랑 Tencent’s Hy4 얘네 둘 다 오픈소스 모델에서 사이버 보안, 리버스 엔지니어링, 취약점 패치 기능들을 죄다 삭제하고 있음.
요즘 나오는 중국산 오픈 웨이트 모델들 보면 이런 식으로 나가는 게 진짜 개판임. 로컬 모델에서 보안 관련 데이터를 다 빼버리면, 우리 코드에 있는 취약점을 제대로 검사하거나 바이너리 리버스 엔지니어링을 하는 건 고사하고, 전반적인 취약점 패치조차 우리 하드웨어에서 직접 할 수가 없게 됨. 결국엔 클로즈드 소스 API나 쓰면서 툭하면 오탐지(false-positive)로 차단당하는 꼴을 당해야 하는데, 이건 진짜 모두한테 최악임.
허깅페이스 사태 때도 나선 건 오픈소스 모델들이었지, 클로즈드 소스 게이트키퍼들이 아니었음. 로컬 LLM에서 방어 보안 기능을 거세하는 건 결국 방어자들만 엿 먹이는 짓임. 제발 다른 연구소들은 앞으로 이런 짓 좀 안 따라 했으면 좋겠다.
혹시 다른 오픈소스 연구소들도 이 길을 따라갈 거라고 생각하는 사람 있음?


