AI 영상에 AI임을 알리는 메타데이터를 법적으로 의무화해야 한다. 그렇지 않으면 범죄 현장 영상 증거는 아무 쓸모가 없게 될 것이다.

이론적으로는 영상이 특정 폰의 실제 카메라에서 촬영됐다는 걸 암호학적으로 증명해서 AI가 아니라는 걸 입증할 수 있어야 함.

https://en.wikipedia.org/wiki/Content_Authenticity_Initiative

우리가 원한다면 실제 영상의 출처는 확실하게 알 수 있지만, 메타데이터는 쉽게 삭제될 수 있어서 영상이 AI로 생성됐는지 여부를 증명하기는 어려움.

우리는 곧 메타데이터가 없으면 진본임을 확인할 수 없고, 모든 게 가짜로 간주되는 시점에 다다를 거임. 이건 특정 정당이나 인물을 반대하는 사람들에겐 아주 신나는 일이 되겠지. 누군가 '장난'으로 치명적인 영상을 만들기로 마음먹으면 사람 인생 하나쯤은 쉽게 망가뜨릴 수 있을 테니까.

AI 쪽에서 해결하는 것보다 폰에서 checksum 같은 데이터를 추가해서 변조되지 않았음을 증명하는 게 훨씬 쉬울 거임. 사람들이 워터마크 없는 모델을 직접 돌리는 걸 막는 것보다 수학적으로 데이터가 안 바뀌었다는 걸 증명하는 게 훨씬 쉽거든.

앞으로 그런 일이 훨씬 더 자주 일어날까 봐 걱정됨. 데이트 망치면 갑자기 사진이나 영상이 튀어나오겠지. 차였어? 그럼 상대가 나쁜 짓 했다는 증거 사진이 나오는 식이지. 이혼하고 싶으면...

영상에 키 서명을 하고 보안 인클레이브(카메라 녹화 장치) 내에서 소프트웨어를 실행할 수는 있겠지만, 그러려면 모든 카메라에 이 기능이 들어가야 함. 인클레이브는 녹화 소프트웨어가 명시된 것과 동일한지 검증하고 해당 영상이 진짜라는 인증을 해주는 방식이지.

물론 해킹당하거나 변조되거나, 아니면 아예 상용화되지 못해서 영상은 지금처럼 남을 게 뻔함.

결국 뭐가 가짜고 진짜인지 구분하는 건 직관에 의존할 수밖에 없음, 뭔가 이상하다 싶으면 말이야.

유일한 다른 방법은 여러 소스를 확보하는 것뿐인데…