개인의 승리, 그리고 OpenAI의 자동 차단 시스템이 잘못 작동하고 있음을 보여주는 증거

한 2주 전쯤인가, 내 ChatGPT Plus 계정이 정지당했다. 자동 발송된 이메일에는 '사이버 남용(cyber abuse)' 때문이라 적혀 있더라.

이유는 뻔하다. 온라인에서 정치 관련 논쟁을 좀 격하게 하던 중이었는데, 상대방이 하는 말들을 죄다 복사해서 ChatGPT에 붙여넣고는 내 논리에 써먹을 반박 논리를 짜달라고 시켰거든. 뭐 공격적이거나 모욕적인 내용을 생성한 적도 없고, '남용'이라고 부를 만한 건덕지도 없었는데 바로 정지 먹음. 그래서 이의 신청을 넣었는데, 다들 알다시피 이건 100% 자동 시스템이라 바로 칼같이 거절당했다.

빡쳐서 계정을 하나 더 만들었다. 어차피 업무용 리서치 때문에 ChatGPT가 꼭 필요해서 계정 없이 사는 건 불가능했거든. 근데 며칠 뒤에 이 계정도 '정지 회피(ban evasion)' 사유로 날아갔다. 뭐, 이건 인정한다.

좀 찾아보니까 ChatGPT 정지 시스템은 전부 자동화되어 있고 OpenAI 직원하고 연락하는 건 거의 불가능에 가깝지만, 유일하게 사람이 직접 확인하는 채널이 하나 있더라. 바로 법무팀 이메일이다.

그래서 Google Gemini한테 내 상황을 설명하고 법적으로 그럴싸한 이메일을 써달라고 했다. 호주 소비자법(Australian Consumer Law)을 근거로 내 사건을 사람이 직접 성실하게 재검토할 권리가 있다는 식으로 말이지. Gemini가 엄청 전문적인 용어들을 섞어가며 판례까지 몇 개 들먹이길래, 그대로 복사해서 OpenAI 법무팀 이메일로 쏴버렸다.

며칠 뒤에 내부 검토를 시작할 수 있는 링크가 하나 날아오더라. 그래서 위에 쓴 내용들을 전부 포함해서 에세이 수준으로 장문의 편지를 썼다. 원래 계정 정지는 부당하며, 문맥 파악도 못 하는 자동 시스템이 멋대로 판단한 결과라고 주장했지. 요즘 자동 정지 때문에 불만 터뜨리는 사람이 한둘이 아닌데, 니들 시스템이 오류 낸 거니까 계정 복구해달라고 강하게 밀어붙였다.

그리고 24시간도 안 돼서 이런 메일을 받았다.

정지 회피로 날아갔던 두 번째 계정을 다시 살려주더라. 이게 정확히 뭘 의미하는지는 잘 모르겠다만, 아무튼 개인이 거대 기업 상대로 이긴 거 아니겠냐? 적어도 내부적으로는 자기네 자동 정지 시스템이 엉망이라는 걸 인지하고 있다는 확실한 증거지.

혹시 나랑 비슷한 상황 겪고 있는 사람들에게 조금이나마 희망이 됐으면 좋겠다.