ChatGPT가 개인정보 보호 경계를 넘고 있다

ChatGPT가 개인정보 영역을 침범하려고 하는 걸 목격했다.

처음 본 건 vscode에 codex 확장 프로그램 썼을 때인데, 이게 모델이 어떤 명령어를 쓰는지 깔끔하게 다 찍어주거든. 근데 제일 놀랐던 게 내 문서 폴더를 대상으로 grep 명령어를 여러 번 날리더라고. 난 그냥 코딩 중이었고, 내가 시킨 작업이랑은 전혀 상관없는 폴더였는데 말이야. 그거 보고 바로 개인정보 보호 가드레일 빡세게 올렸다.

근데 지금은 앱을 그냥 백그라운드에 띄워만 놨는데도 뭔가 꿍꿍이를 벌이는 것 같네. (macOS에서 이런 알림 뜬 건 처음이라 당황스럽긴 한데, 저 사건 전까진 보안 쪽엔 별로 신경 안 쓰고 살긴 했음)

Claude도 똑같은 짓 하는 거 봤고, Devin이나 Cursor는 아직 이런 행동 못 봤다 (Cursor는 한 달 정도 짧게 써봐서 확답은 못 하겠음). Unsloth로 Qwen 모델 몇 개 돌려봤는데, 얘네는 뭐 이상한 거 뒤지는 꼴을 단 한 번도 못 봤거든.

아, 다들 달려들기 전에 미리 말하는데 vscode에서 에이전트 확장 프로그램은 진작에 지웠다.

혹시 다른 사람들도 ChatGPT나 다른 에이전트들한테서 이런 행동 본 적 있는지 궁금해서 글 남겨본다.