전화상으로 진짜 사람과 AI를 구분하기가 점점 어려워지고 있다
It’s getting harder to distinguish real person vs AI on the phone
핵심 요약
전화 상담 중 AI와 사람을 구분하기 어려워진 경험담과 함께, AI의 자연스러운 응대에 대한 우려가 커지고 있다.
- AI 식별 난항 — 전화 상담 시 자연스러운 억양과 반응 속도 때문에 AI를 사람으로 착각하는 사례가 늘어남.
- 법적 의무화 필요 — AI가 전화를 걸거나 받을 때 AI임을 밝히도록 법적으로 강제해야 한다는 의견이 제기됨.
- AI 간 통신 — 인간의 언어 대신 AI끼리 새로운 프로토콜로 소통하는 시대가 올 것이라는 예측이 나옴.
- 식별 테스트 — AI를 판별하기 위해 엉뚱한 질문을 던지거나 특정 작업을 요구하는 방식이 공유됨.
임대할 곳을 찾다가 Zillow에서 투어를 요청한 후 한 곳에 전화를 걸어야 했습니다. 전화를 받은 '사람'은 자연스럽게 말했고 남부 사투리가 짙었습니다.
그 사람은 제가 무엇을 찾고 있는지 등을 물었고, 제가 관심 있던 부동산 매물을 좁혀주었습니다. 하지만 대화 중에 잠시 멈추면 상대방이 바로 대답한다는 것을 알아차렸습니다. 예를 들어 투어가 언제 가능한지 물을 때 제가 '잠시만요, 달력 좀 확인할게요'라고 말하면 제가 멈추자마자 바로 대답했습니다. LLM의 대화 기능을 사용할 때 느꼈던 것과 같았습니다.
또한 배경에서 주기적으로 전화 벨소리가 들리는 것을 알아차렸지만, 매번 똑같은 소리였습니다. 하지만 다른 사람의 목소리는 없었습니다.
혹시라도 사람이면 실례가 될까 봐 '당신은 사람인가요, AI인가요?'라고 묻기가 너무 부끄러웠습니다. 그리고 그들은 일부 고객 서비스 '상담원'처럼 '도움이 되는 AI 챗봇입니다'라고 자신을 소개하지도 않았습니다. 그래서 대화 끝에 '아, 그리고 이름이 뭐라고 하셨죠?'라고 물었습니다. 그러자 그들은 (남부 사투리로) 이름을 말하고 자신은 챗봇이라고 답했습니다. 아니면 가상 비서였을지도 모르죠.
우리는 이미 진짜 영상과 사진, AI 영상과 사진을 구분하는 데 어려움을 겪기 시작했습니다. 예술이 사람의 것인지 아닌지도요. 다음 차례는 이것인 것 같네요. 다음은 또 뭐가 나올까요??
