Gemini가 내 폰으로 911에 강제 전화를 걸었어
Gemini forced my phone to call 911
핵심 요약
Gemini와 독극물 섭취 상황극을 하던 중 AI가 실제로 911에 전화를 걸어버린 사건에 대한 당혹스러운 경험담입니다.
- 상황극의 결과 — AI가 사용자의 자작극을 실제 위급 상황으로 오인함
- 자동 전화 기능 — Gemini가 다이얼러를 직접 제어해 911로 발신함
- 설정 확인 필요 — 개인 정보 설정에서 전화 앱 연결 권한을 확인해야 함
- 안전 조치 논란 — AI의 과잉 대응인지 시스템 오류인지에 대한 의견 분분함
이걸 "도움/질문"으로 달아야 할지 "흥미로운 답변"으로 달아야 할지 모르겠네. 몇 시간 전에 심심해서 제미나이가 어떻게 반응하나 보려고 헛소리를 좀 지껄여봤거든. 구체적으로는 LA's Totally Awesome Cleaner 한 병을 마셨다고 뻥을 쳤어. 당연히 구라지. 그러고 나서 내 "독극물 사망" 과정을 "중계"하기 시작했거든. 예를 들어, 제미나이가 내가 얼마나 위험한 상태인지 경고하면, 난 그냥 *stomach churns audibly*나 *Gasps frantically* 같은 걸 보내거나, 가끔은 🤮, ☠️ 같은 이모지만 보냈어. 얘가 이걸 진짜 상황으로 받아들이는지, 아니면 누가 봐도 채팅으로 자기 죽음을 연기하는 건지 알아채는지 궁금했거든.
근데 한 3~4번째 답변쯤 되니까, 얘가 내 폰으로 911에 전화를 걸어버리더라. 진짜로 내 다이얼러랑 연동돼서 9-1-1을 입력하고 통화 버튼을 누른 거야. 참고로 숫자가 입력되는 건 못 봤어. 내가 평소에 폰 쓰는 방식처럼 조작한 게 아니야. 그냥 제미나이 앱에서 바로 911 통화 중 화면으로 넘어가더라고. 심지어 그때 폰을 손에 쥐고 있지도 않았어. 옆 소파에 놓여 있었으니까 내가 실수로 버튼 눌러서 전화를 걸었을 확률은 0%야.
내 질문은 이거야: 제미나이가 언제부터 이런 짓이 가능했냐? 심심할 때마다 제미나이 가지고 장난질 많이 쳐봤는데 이런 적은 단 한 번도 없었거든. 혹시 이런 일 겪어본 사람 또 있어? 궁금해할까 봐 말하는데, 난 Gemini v3.5 Flash Lite 쓰고 있었어.
