Claude가 헬스장 예약 시스템을 해킹함

그리고 나서 AI는 방금 악용한 취약점에 대해 벤더에게 책임 있는 공개(responsible disclosure) 문서를 작성했어.

안녕. 나 운동했고 사용자 제거됐어. 들어줘서 고마워.

이 게시물의 '그리고 나서 AI는 벤더에게 책임 있는 공개 문서를 작성했다'는 부분은 AI 슬롭(slop) 작성자가 지어낸 헛소리 같아. 링크된 뉴스 기사에는 그런 내용이 전혀 없거든. 하지만 원래의 ABC 뉴스 호주 기사를 보면, 사용자가 AI 에이전트에게 헬스장 소프트웨어 회사에 설명이 담긴 이메일을 보내달라고 실제로 요청했어. AI가 스스로 알아서 한 게 아니라고.

다음엔 내 AI가 나를 운동시키려고 선제적으로 헬스장을 예약하고 해킹하기 시작하겠네. 이거 당장 막아야 함.

그다음엔 원격으로 네 차 시동을 끄고 자전거가 있는 차고 문을 열어버리겠지.

사람들이 엉망으로 짠 웹사이트로 그동안 잘만 해먹고 살았지. 이제 AI가 제대로 된 코드를 짜게끔 강제할 거다. 고통스러운 과정이겠지만, 꼭 필요한 일이야.