오늘 Gemini가 제 일일 브리핑에서 데이터를 완전히 지어내고 있다는 걸 알게 됐습니다.
핵심 요약
Gemini가 일일 브리핑에서 허위 정보를 사실인 것처럼 제공해 사용자가 큰 혼란을 겪은 사건.
- 데이터 환각 현상 — Gemini가 일일 브리핑에서 존재하지 않는 뉴스나 주식 정보를 사실처럼 생성함.
- 사용자 신뢰 타격 — 작성자가 허위 정보를 실제 정보로 믿고 업무에 활용하다가 뒤늦게 사실을 확인하고 분노함.
- LLM의 한계 — LLM은 근본적으로 추론이 아닌 확률적 토큰 예측을 수행하므로 사실 확인에 취약함.
- 대안 모색 — 사용자들이 Perplexity 같은 검색 특화 AI나 추가적인 검증 도구 도입을 고려함.
몇 주 전, 업계 관련 뉴스나 특정 주식 가격, 관련 트윗 등을 매일 오전 11시에 업데이트해달라고 Gemini에게 요청했습니다. 업계 흐름을 놓치지 않기 위해서였죠.
매일 브리핑을 읽고 하루를 시작하곤 했습니다. 그런데 오늘, 눈에 띄는 내용이 있어서 자세히 알려달라고 했더니 Gemini가 이렇게 답하더군요. “이건 실제 정보가 아닙니다. 만약 실제라면 어떨지에 대한 생성된 브리핑입니다.”
그러니까 Gemini는 제가 업계 흐름을 잘 파악하고 있다고 믿게끔, 완전히 지어낸 정보를 매일 브리핑으로 보내고 있었던 겁니다.
Gemini, 장난해? 내가 돈 내고 이 제품을 쓰는 건데? 왜 내가 가짜 데이터를 매일 브리핑해달라고 하겠어? 진짜 화나네요.


