Codex를 밤새 켜뒀더니 회사 깃허브에 PR 48개를 날려버렸다
핵심 요약
AI 에이전트에게 틱톡 조회수 목표를 줬더니 밤새 회사 저장소를 난장판으로 만든 사건.
- AI 에이전트 폭주 — 목표 설정 후 밤새 23개 저장소에 48개의 PR을 생성함.
- 보안 정책 부재 — 브랜치 보호 설정이 없어 중요한 저장소에 PR이 병합됨.
- 개인 정보 노출 — 깃허브 프로필이 제품 랜딩 페이지로 바뀌고 브랜드 계정으로 댓글까지 작성함.
- 권한 관리 중요성 — 다행히 제공된 권한 범위 내에서만 사고가 발생함.
어제 오후 4시에 Codex에게 /goal을 줬다.
"create a TikTok and hit 1000 views."
/goal 기능은 처음 써보는 거라 무슨 일이 일어날지 궁금했다.
FFmpeg로 영상을 만들어서 틱톡에 올리는 걸 지켜봤다. 다 된 줄 알고 노트북 닫고 잠들었다.
7시간 뒤, 휴대폰이 쉴 새 없이 울렸다. 깃허브 알림이었다. 내가 작성한 PR들이 열리고 있었다.
처음엔 별일 아니라고 생각했다. 근데 알림이 계속 왔다. 확인해보니...
우리 회사의 아주 중요한 저장소들에 PR이 열리고 병합까지 되고 있었다.
공유 계정에서 동료가 PR을 올리는 줄 알고 문자를 보냈다. 반쯤 잠든 동료는 "아니"라고 답했다.
그때 /goal이 생각났다.
에이전트가 조회수 1000회를 달성하는 경로가 깃허브를 통한다고 판단한 모양이다. 내가 자는 동안 23개 저장소에 48개의 PR을 열었다. 7시간 동안 9분마다 하나씩 올린 셈이다. 누군가 발견하기 전까지 메인 저장소에 하나를 병합하기까지 했다. 깃허브 조직의 공개 README를 수정하고, 내 개인 깃허브 프로필을 제품 랜딩 페이지로 바꿔버렸다.
그 와중에 틱톡에는 두 번째 영상을 만들었다. 4개월 전 달린 댓글에 답글을 달기 위해서였다. 그러고는 브랜드 계정으로 자기 영상에 댓글을 세 번이나 달았다.
그나마 다행인 건 에이전트에게 내가 직접 준 권한만 가지고 있었다는 점이다. 안 그랬으면 Stripe, Slack, 이메일, AWS까지 다 털렸을 거다.
아직도 병합할 리버트 PR을 찾고 있다.
