내부자가 모델 가중치를 유출하는 것을 실제로 막는 것은 무엇인가?

이게 정답인 듯. 나도 구글, MS, 아마존에서 일해봤는데 주차장에서 주운 USB 꽂는 거 아니면 딱히 문제 된 적 없음.

난 은행에서 소프트웨어 엔지니어 하는데, 여기선 USB 사용 엄격히 금지돼 있고 아예 막혀있음. 브라우저에서 복사 붙여넣기만 해도 검사하느라 몇십 초씩 걸림. 컴퓨터 설정 바꾸려면 티켓 끊고 승인받고 IT 직원 대동해야 함.

IT 보안 빡센 건 알겠는데, 보안 레이어랑 수동 승인 절차 너무 많으면 개발 속도 다 죽음. 보안 챙기려다 팀의 실험 능력이나 배포 속도 다 깎아먹는 거 아님?

대부분의 개발자는 모델 가중치에 접근할 필요가 없어서 그럼. 가중치 자체가 아니라 추론 돌리는 게 가치 있는 거니까. 접근 권한 있는 10명 남짓한 사람들은 NDA가 엄청 빡세고 연봉도 미친 듯이 받아서, 인생 망치면서까지 유출할 이유가 없음.

사람들이 이런 회사 다니는 사람들이 얼마나 고연봉에 좋은 대우받는지 잘 모르는 듯. 인터넷에서 인정받으려고 그 모든 걸 다 버릴 사람은 거의 없음. 아예 없다는 건 아니지만 진짜 드묾.

일단 대부분의 연구소 직원은 모델 가중치에 직접 접근할 권한이 없음. 훈련에 직접 참여하는 극소수만 접근 가능하고, 그들이 하는 모든 행동은 꼼꼼하게 모니터링됨. 그리고 Llama 1은 메타가 원치 않게 유출된 게 아니라 이미 수백 명의 학계 사용자한테 풀려있던 거임.

멍청한 질문 아님. 근데 실제로는 생각보다 훨씬 어려움. 그 규모의 가중치는 그냥 다운로드할 수 있는 파일 하나가 아니라 샤딩되어 있고, 접근 제어 걸려 있고, 보통 엄격한 인프라 경계 안에 있음. 게다가 내부자 위험을 가정해서 대용량 전송에 대한 로깅, 접근 범위 제한, 이상 탐지까지 다 걸려있음. 시도할 순 있겠지만, USB 꽂아서 복사하는 수준이 아니라 엄청나게 눈에 띄고 걸리기 쉬움.