오픈 소스 AI를 응원하며
Open Source Appreciation Post
핵심 요약
과학 연구를 방해하는 과도한 AI 안전 필터에 대한 비판과 오픈 소스 AI의 필요성을 강조하는 글입니다.
- 안전 필터의 과잉 — 바이러스학 연구 중 단순 파일 전송이나 학술적 질문까지 차단됨
- 상용 AI의 한계 — Anthropic 등 주요 모델의 폐쇄적인 안전 정책이 연구 효율을 저해함
- 오픈 소스의 대안 — DeepSeek 등 상대적으로 유연한 모델이 연구자들에게 실질적인 도움을 줌
- 과학 지식의 접근성 — 연구자들을 잠재적 위협으로 간주하는 AI 기업들의 행태를 비판함
밤늦게 연구실에서 바이러스학 프로젝트용 기본 스크립트 좀 짜고 있는데, 와 진짜 보안 가이드라인 때문에 개빡치네.
rsync로 detectEVE 데이터를 내 노트북으로 옮기려고 먼저 zip 파일로 만들었거든? 근데 안 된대. 위대하신 안전의 제왕 DARIO 님께서 오늘은 파일 전송 절대 안 된다고 막아버림. 요청은 차단됐고, 신고당했고, [cyber] 딱지까지 붙음. 근데 Deepseek V4.1은 군말 없이 다 해주더라.
논문 읽다가 지쳐서 Claude한테 "이 PDF에 바이너리 숙주 바이러스 감염 내용 나오냐?"고 물어봤거든. 바로 생물학적 안전 위험이라면서 차단당함. Deepseek V4.1은 그런 거 따지지도 않고 내가 필요한 데이터 없다고 딱 말해주던데.
생물정보학 서버 터져서 진단 스크립트 결과값을 마운트된 USB 드라이브로 옮겨서 복구 좀 하려니까, 파일 이름이 exfil이라고 무섭다나 뭐라나. CYBER 위험이라면서 로그 파일 전송도 안 된단다.
파지-숙주 예측 시작할 때 CNN 구조가 괜찮을까 싶어서 물어봤더니, Claude는 구글 검색하면 다 나오는 정보조차 나한테는 너무 위험하다면서 입 꾹 닫음. 근데 이번에도 Deepseek v4.1은 GCN부터 시작해보라고 친절하게 알려주더라.
바이러스학이 민감한 분야인 건 알겠는데, 이건 좀 아니지 않냐? 구글이 초창기 검색 서비스 만들 때 이런 식으로 안전 타령했다고 생각해 봐. 신분증이랑 어디서 일하는지 다 까발리거나, 아니면 도서관 가서 직접 손으로 찾으라고 강요하는 꼴이잖아. 상상도 하기 싫은 일인데, 다리오랑 알트만은 '안전'이라는 이름 아래 과학 지식을 계속 가둬두려고 발악 중임.
모든 과학자를 위해서라도 오픈 소스 AI가 이겨야 한다고 본다. 자아도취에 빠진 놈들이 우리를 마이크로 매니징하거나 신분증 내놓으라고 협박하지 않아도, 그냥 알아서 잘 돌아가는 도구가 필요하니까.
