AI 탐지기가 실제 사람이 쓴 에세이의 61%를 AI로 판정함. 그래서 내가 직접 썼음을 증명하는 도구를 만들었음.
AI detectors flagged 61% of essays written by real humans as AI. So I built something to prove you wrote it.
핵심 요약
AI 탐지기의 오탐 문제를 해결하기 위해 작성 과정을 기록하여 인간이 썼음을 증명하는 'Receipts' 앱을 개발함.
- AI 오탐 문제 — 실제 사람이 쓴 에세이도 AI 탐지기가 잘못 판정하는 사례가 빈번함
- 작성 과정 기록 — 키보드 입력, 일시 정지, 수정 등 25가지 신호를 통해 작성 과정을 영화처럼 재생함
- 증거 도구 — 에세이 작성 과정을 기록하여 표절이나 AI 대필 의혹에 대한 반박 근거로 활용함
- 데이터 보안 — 모든 기록은 사용자의 구글 드라이브에 저장되며 서버에 남지 않음
Patterns에 실린 스탠퍼드대 연구 결과에 따르면, AI 탐지기가 실제 사람이 쓴 TOEFL 에세이의 61.3%를 AI가 쓴 걸로 판정했다고 함. 심지어 이건 ChatGPT가 나오기도 전에 쓴 에세이들이었음. 지난 1월에는 뉴욕 법원이 대학 측의 AI 부정행위 고발을 "근거가 없다"며 기각하기도 했지.
고발은 현실인데, 그 뒤에 있는 증거는 대부분 가짜임.
진짜 문제는 이거임. 교수가 "탐지기에 네 에세이가 걸렸어"라고 말하면 학생은 할 수 있는 게 아무것도 없음. '안 했다'는 걸 증명할 방법이 없거든. 학생 말 vs 탐지기 퍼센트 점수인데, 보통은 퍼센트 점수가 이기지.
그래서 내가 Receipts를 만들었음. 글 쓰는 동안 모든 키 입력을 기록하고, 영화처럼 에세이 쓰는 과정을 다시 보여주면서 사람이 생각하며 글 쓸 때만 나타나는 25가지 신호를 추적함. 만약 나중에 AI로 의심받으면, 링크 하나만 보내면 됨. 그럼 교수가 네가 직접 글 쓰는 과정을 눈앞에서 보게 될 거임.
- 사람이 글 쓰는 방식에 대한 25가지 신호를 측정함: 타이핑 리듬, 생각하는 동안의 멈춤, 수정 과정, 글자 간의 근육 기억 같은 것들. 어떤 단일 신호도 단독으로 결정을 내리지 않음. 핵심은 전체적인 그림을 보여주는 거임.
- 내용을 복사해서 붙여넣으면 그 기록도 다 남음. 이건 부정행위 도구가 아니라 증거 수집 도구임. 정직한 사람의 결백을 증명하는 만큼, 부정행위자를 잡아내는 데도 쓰일 수 있음.
- 모든 데이터는 본인의 Google Drive에 저장됨. 우리 서버에는 네 작업물이 절대 남지 않음.
- 증거 관련 기능은 전부 무료임. 자신을 방어하는 데 돈이 들면 안 되잖아.
AI 탐지기 시대의 가장 추악한 부작용이 바로 이런 억울한 누명이라서 이걸 만들었음.
신호가 어떻게 작동하는지, 재생 화면이 어떻게 생겼는지 궁금하면 뭐든 물어봐.
receipts-red.vercel.app (사이트 한번 써보고 괜찮으면 더 많은 기능을 위해 유료 구독도 고려해 봐. 근데 무료 계정만으로도 충분히 많은 걸 할 수 있긴 함!)
