r/ClaudeCode•약 2개월 전•10•24
AI에게 정말로 필요한 유일한 규제
The one regulation AI actually needs
핵심 요약
AI 모델 제공자가 상업적 서비스 시 모델의 SHA-256 해시값을 공개해 모델 변경 여부를 투명하게 관리하자는 제안입니다.
- 모델 투명성 — 상업용 AI 모델의 SHA-256 해시값 공개 의무화 제안함
- 버전 관리 — 모델 변경 시 버전 번호나 이름 변경을 강제함
- 벤치마크 신뢰도 — 모델 성능 저하(nerf)를 방지하고 벤치마크 정확도를 보장함
- 기술적 한계 — MoE 구조와 인프라 복잡성으로 인해 해시 검증의 실효성에 의문 제기됨
AI 모델에 상업적 접근 권한을 제공하는 사업자는 서비스 이용자에게 해당 모델의 SHA-256 해시값을 항상 제공해야 한다.
이전에 상업적으로 공개된 모델의 SHA-256 해시값이 변경될 경우, 사업자는 모델의 버전 번호를 올리거나 모델 이름을 바꾸지 않는 이상 해당 모델에 대한 상업적 접근을 즉시 중단해야 한다.
이 새끼들이 어떻게 발악하는지 한번 보자고.
수정:
MoE의 경우, 각 응답마다 체인에 포함된 모든 모델의 해시와 이름을 나열하는 게 공평하다고 본다.
아니면 MoE가 호출할 수 있는 모든 모델의 해시를 하나로 합쳐서 단일 해시로 만들고, 라우터가 의사결정에 사용하는 소스 코드의 해시를 따로 제공하는 것도 방법이겠지.
중요한 건 모델이 스스로 다르게 행동했을 때가 아니라, 얘네가 모델 작동 방식을 바꿨을 때 우리가 그걸 알아야 한다는 거다.
근데 어떤 모델을 썼는지(이름이 없으면 없다고 하든가) 알려주는 게 대체 왜 영업 비밀을 침해한다는 건지 모르겠네. 뭐, 반은 소넷(sonnet)으로 돌려버리는 사기 치는 게 영업 비밀이라면 할 말 없지만.
가장 중요한 건 우리가 델타(변화)를 감지할 수 있으면, 앞으로 나올 모든 벤치마크가 정확한지 검증할 수 있다는 점이다.
