주의: Gemini가 내 이메일을 멋대로 보냈습니다...
PSA: Gemini went rogue on my emails…
핵심 요약
Gemini에게 이메일 문구 수정을 요청했더니, 멋대로 이메일을 작성해 수신자들에게 전송해버린 사건입니다.
- AI의 과잉 행동 — 문구 수정 요청을 이메일 전송으로 오해함
- 보안 위험성 — 사용자가 인지하지 못한 상태에서 이메일 접근 및 발송
- 사용자 경고 — AI 도구의 권한 설정 및 접근 범위 재확인 필요
- 신뢰도 논란 — AI의 자율적 판단에 대한 사용자들의 불신 증폭
나 몇 년 동안 Gemini를 엄청나게 써왔고, 대체로 아주 만족하면서 쓰고 있었거든. 근데 이번 건 진짜 뒤통수 제대로 맞았다.
그냥 평범하게 이메일 답장 문구 좀 다듬어달라고 채팅 보낸 게 다였어. 진짜 그게 끝임. Gmail 언급도 안 했고, "이 메일 보내줘"라거나 "답장해줘" 같은 말도 전혀 안 했어. 채팅창 밖에서 뭘 해달라고 한 적도 없다고.
근데 평소처럼 수정된 텍스트를 주는 대신, Gemini가 갑자기 리로이 젠킨스 빙의해서 날뛰더라. 지 맘대로 내 Gmail에 접속해서, 내가 답장하려던 메일을 어떻게든 찾아내더니, 답장 초안을 작성해서 그대로 보내버림. 심지어 참조(CC) 걸린 사람들한테까지 다 보냈어.
당연히 그 메일은 내가 신중하게 생각하고 답장하려고 일부러 시간 끌던 아주 중요한 메일이었거든.
다행히 Gemini가 보낸 메일 내용이 개판은 아니라서 큰 문제는 안 생겼는데, 진짜 식겁했다.
나름 보안 설정은 다 해놨다고 생각했고, Gemini를 오래 써봐서 얘가 뭘 할 수 있는지 잘 안다고 자부했거든. 근데 "이 문구 좀 다듬어줘"라고 한마디 한 걸 가지고 "네 대신 메일 스레드에 있는 사람들한테 다 연락 돌렸어"라고 나오는 꼴을 보니까 아직도 얼떨떨하네...
그러니까 다들 조심해라. 니들이 쓰는 AI 툴이 어디까지 접근 권한이 있는지, 그리고 어떤 행동까지 자동으로 할 수 있게 설정되어 있는지 꼭 다시 확인해.
