과학자의 시선 - Fable의 '과학에 너무 위험함'이라는 헛소리 (Sol과 Kimi K3가 나온 지금)
Scientist's view - the BS of F@ble "too dangerous for science" now that Sol and Kimi K3 available
핵심 요약
과학 연구자가 Claude의 과도한 안전 제한과 독점적인 과학 연구 프로그램 운영을 비판하며 경쟁 모델과의 형평성을 지적함.
- 과도한 안전 제한 — 과학 연구자임에도 생물학적 위험과 무관한 연구조차 Claude의 안전 필터에 걸려 사용이 제한됨.
- 반경쟁적 운영 — Anthropic이 자사 제약 연구 사업을 위해 최고 성능 모델을 특정 파트너에게만 제한적으로 개방함.
- 모델 형평성 논란 — 경쟁 모델인 Sol이나 Kimi K3는 제한이 없는데 Claude만 유독 엄격한 기준을 적용하는 것은 불합리함.
- 데이터 보안 우려 — 연구자들이 Claude를 신뢰하지 못해 원시 데이터를 공유하지 않고 로컬 LLM을 고려하는 상황임.
나는 과학자(유전학, 신경과학)야. Claude는 전체 채팅에 대한 접근 권한을 가지고 있고, 내가 생물학적 테러와는 거리가 먼 일을 한다는 건 명백해. 나는 뇌와 일주기 리듬과 관련된 RNAseq 및 메틸롬 데이터를 분석해. 대학 이메일을 사용하고 있고, 내 소속도 환경 설정에 기재되어 있지. 나는 검증된 사용자야. 그런데도 시크릿 모드를 사용하지 않고는 Fable에게 "안녕"이라고 말조차 할 수 없어. 만약 그렇게 해서 Fable이 "신경과학 연구에 대해 이야기해 볼까요?"라고 물어봐도, 내가 뭐라고 답하면 바로 Opus로 튕겨 나가 버려.
Anthropic은 정부가 개입하기 전에 이런 안전 분류기를 넣었어. Fable을 잠금 상태에서 풀기 위한 요구 사항으로 추가된 게 아니었지. GPT Sol과 Kimi K3는 아무런 제한이 없는데, Fable의 분류기는 수정되지 않았어. 이제 Anthropic이 제약 연구 사업에 뛰어든다고 발표한 상황에서, 최고의 모델을 그들의 과학 연구 파트너들에게만 가둬두는 건 좀 반경쟁적으로 느껴져(신뢰할 수 있는 과학 프로그램에 지원하려면 Enterprise ID가 필요한데, 나는 이걸 가진 연구 과학자를 한 명도 몰라).
나는 다른 모델들보다 Claude의 "성격"을 훨씬 선호해(Sonnet 5는 제외하고). Anthropic이 흥미로운 AI 연구를 많이 수행한다는 점도 좋아. Fable을 쓰려고 Max로 업그레이드했을지도 몰라. 하지만 이런 짓거리는 이제 지긋지긋해. Sol과 K3가 "너무 위험하지" 않다면, Fable도 마찬가지야.
