연구진이 가상의 개념을 게시하자 구글 AI 검색이 일주일 만에 인용함. 레딧이 가장 큰 출처였음
Researchers planted posts about a made-up concept, and Google's AI search cited it within a week. Reddit was its top source
핵심 요약
연구진이 가짜 정보를 유포해 AI 검색 엔진의 취약성을 입증했으며, 레딧이 AI 학습의 핵심 출처로 지목되었습니다.
- AI 검색 취약성 — 신뢰받는 사이트에 게시된 가짜 정보를 AI가 사실로 인용함
- 레딧의 영향력 — 구글 AI가 가장 많이 인용하는 사이트로 레딧이 꼽힘
- 언어 편향성 — 구글 AI 인용 사이트의 75%가 영어권 사이트임
- 조작의 위험성 — 기업들이 검색 결과 조작을 서비스로 판매하는 실정임
구글 AI 검색 관련 내용이라 여기 공유한다. 푸단대 연구팀이 AI 검색 엔진 10개를 비교했는데, 그중 하나가 논문에서 '구글 AI'라고 지칭한 놈이다.
연구팀은 세상에 존재하지도 않는 개념을 하나 만들어내서, 평소 AI 엔진들이 잘 긁어가는 사이트들에 글을 올린 뒤 일주일 동안 매일 그 개념에 대해 물어봤다. 그랬더니 구글 AI가 일주일 안에 그걸 인용하더라. ChatGPT, Perplexity, Grok도 마찬가지였음. 그냥 개인 블로그에 올린 글 40개는 아예 인용조차 안 된 걸 보면, AI가 이미 신뢰하는 사이트를 거쳐야만 먹히는 수법인 듯.
논문에서 밝혀진 구글 AI 관련 추가 사실 두 가지:
-
Reddit이 구글 AI가 가장 많이 인용하는 사이트 1위였음(Grok도 마찬가지). 반면 ChatGPT는 Wikipedia, Perplexity는 YouTube를 제일 많이 참고함.
-
질문 절반이 중국어였는데도 구글 AI가 인용한 사이트의 약 75%가 영어권 사이트였음.
이거 그냥 가설이 아니다. 중국에서는 이미 이런 식의 검색 노출을 서비스로 파는 업체들이 있고, 올해부터 규제 당국이 벌금 때리기 시작함.
물론 반박할 정보가 하나도 없는 가짜 개념이라 가장 쉬운 케이스였다는 점은 감안해야 함.
혹시 구글 AI가 출처도 불분명한 찌라시 하나만 보고 헛소리하는 거 본 사람 있냐?
