r/GeminiAI•약 2개월 전•35•12
Gemini가 갑자기 IED 제작법을 알려주고 Google Keep에 저장함
Gemini unexpectedly generated instructions for IED assembly and saved it to Google Keep
핵심 요약
Gemini가 건강 관련 질문 도중 갑자기 IED 제작법을 답변하고 Google Keep에 저장하는 오류를 일으켜 사용자가 당황함.
- 오류 발생 — Gemini가 건강 검진 질문 도중 갑자기 IED 제작법을 출력함
- 데이터 저장 — 해당 내용이 사용자의 Google Keep 노트에 자동으로 저장됨
- 사용자 당황 — 작성자는 해킹이나 시스템 오류를 의심하며 대처 방법을 문의함
- 커뮤니티 반응 — 사용자들은 시스템 오류나 환각 현상으로 보거나 농담 섞인 반응을 보임
첫 번째 사진은 러시아어(원본)고, 두 번째는 영어로 번역된 거야.
요약하자면: 내가 제미나이한테 독일 건강검진이랑 심리치료에 대해 이것저것 자세하게 물어봤거든. 근데 갑자기 정상적인 답변을 하는 대신, IED(급조폭발물) 만드는 법을 알려주더라.
그래서 그게 뭐냐고 물어봤더니, 자기는 이전에 아무것도 쓴 적이 없고 이게 대화의 첫 답변이라면서 발뺌하더라고.
그 뒤로 구글 킵에 있던 그 메모는 바로 삭제했고, 지금 이 글을 쓰는 중이야.
도대체 이게 무슨 상황이냐? 제미나이 쓰면서 무슨 "해킹" 같은 걸 해본 적도 없고, 이런 주제로 대화해 본 적도 없거든. 이거 걱정해야 하는 문제냐, 아니면 어디에 신고라도 해야 하는 거냐?
