Claude를 일기장으로 쓴 여성, 일기 내용 때문에 경찰에 신고당하다

로컬 LLM...❤️

뭐, 당연한 거지. 신고 안 하면 기업이 고소당하고 책임져야 하니까. 입법자들은 사람들이 말하고 행동하는 것에 대해 빅테크가 책임을 지길 원해.

사람들은 도대체 무슨 일이 벌어질 거라고 생각한 거지?

이런 상황에서만 책임을 지기로 결정했다는 게 참 재밌네. 한편으로는 모든 AI 기업들이 자기네 봇 군단이 다른 기업을 '독자적으로' 해킹했다고 신나서 발표하고 있잖아. 뭐, 그건 봇이 한 짓이니까 앤스로픽이나 오픈AI는 책임이 없다는 거지!

제목만 읽은 사람들을 위해 '일기 내용'이 뭔지 설명이 좀 필요할 듯. 그녀는 총기를 구입했고 보안관 사무실 사람들을 100% 죽일 거라고 명시했어. 그게 감지돼서 사람이 직접 검토한 뒤에 법 집행 기관에 통보된 거야. 앤스로픽이 이런 상황에서 뭘 더 어떻게 해야 하는지 모르겠네.

그러니 교훈을 얻자: AI에게 살인 망상을 털어놓고 싶다면, 로컬 모델 돌리는 법부터 배워라.

보도에 따르면 체포 보고서를 인용해, 플로리다주 보니타 스프링스 출신의 30세 여성이 Claude와 사적인 대화를 나누던 중 리 카운티 보안관 사무소를 향해 여러 차례 위협을 가했다고 한다. 9월 26일 오전 5시 10분에 기록된 첫 번째 위협에서 그녀는 '지금 당장 보안관 사무소를 총으로 쏴버리겠다'고 적었다고 한다. 9월 27일 오전 1시 7분에 보낸 후속 메시지에서는 '이게 100% 마지막 기회다. 난 끝났어. 오늘 새 총을 샀다. 엿 먹어라'라고 말했다.

글 제목이 말하려는 의도는 알겠고, 그 자체로는 타당할지 몰라도, 이번 사건은 제목이 시사하는 바와는 결이 좀 다르다고 생각함.