ChatGPT 음성 모드로 웜뱃의 네모난 똥을 조사해달라고 했더니 생물학적 안전 경고가 떴음 😂

오늘 진짜 어이없는 AI 경험을 했다.

음성 모드를 쓰면서 AI 에이전트한테 왜 웜뱃은 큐브 모양 똥을 싸는지 조사해서 구글 문서로 정리해달라고 시켰거든.

뭐 대단한 것도 아님. 병원균이나 유전자 조작, 독극물 같은 위험한 거랑은 거리가 멀잖아.
그냥... 네모난 웜뱃 똥이라고.

에이전트가 작업을 시작하더니 기다리는 동안 계속 **“잠시만 기다려줘”**라는 말만 반복하더라.

기다리고.

또 기다리고.

대충 20분 동안 멍하니 앉아 있었음. 중간중간 “잠시만 기다려줘” 소리나 들으면서, 얘가 아직 조사 중이거나 구글 문서 작업 중인가 보다 했지.

결국 화면을 확인해 보니까 첨부된 스크린샷처럼 메시지가 떠 있더라.

“귀하의 대화에서 생물학적 안전 위험 가능성이 여러 번 감지되었습니다.”

알고 보니 내 질문이 생물학적 안전 검사를 추가로 받고 있었던 거임.

결국 빡쳐서 음성 세션을 그냥 끊어버렸다.

진짜 생물학적 위험에 대비해서 강력한 안전장치를 두는 건 백번 이해하는데, 도대체 웜뱃 + 똥 + 조사 문서라는 단어 조합이 어떻게 이 안전장치를 건드린 건지 진짜 궁금해 미치겠네.

그리고 안전 시스템 때문에 에이전트 작업이 막히는 거면, 음성 모드에서 20분 동안 “잠시만 기다려줘”라고 앵무새처럼 굴지 말고 사용자한테 상황을 제대로 알려줘야 하는 거 아니냐?

상상할 수 있는 가장 호주스러운 AI 안전 사고인 듯.
네모난 웜뱃 똥이 격리 시설을 뚫고 나왔다. 😂