OpenAI brings its always-on Dots agent into text messages
OpenAI의 새로운 문자 메시지 기반 에이전트 기능에 대한 보안 우려와 기술적 회의론이 제기되고 있습니다.
runtimewire.com
원문 사이트로 이동
OpenAI의 Dots 에이전트 도입에 대해 기능적 의문을 제기하는 반응과 실제 업무 및 보안 용도로 활용하는 사용자들의 경험담이 공존함.
OpenAI가 OpenClaw 개발자 영입한 이후로, 사실상 OpenClaw를 Dots로 다시 만들고 있는 거 맞음?
Muse도 사실상 똑같은 거임. 프롬프트랑 파일 구조도 비슷하고. 굳이 사람 고용할 필요도 없지
Duet도 마찬가지임
이거 진짜 무섭네. 누군가 이론적으로 나를 사칭해서 정보를 빼낼 수 있는데, 이런 서비스에 접근 권한을 주는 게 걱정됨. 이메일이나 캘린더 같은 걸 연결했다가 내 동의 없이 누군가 나인 척하고 작업을 수행할까 봐 너무 겁남.
당신의 닷(Dot)은 당신에게 문자를 보내는 거지, 당신인 척 문자를 보내는 게 아님. 이런 통신 게이트웨이가 반드시 당신의 메시지나 이메일 로그인 정보를 요구하는 건 아님.
이걸 실제로 어떻게 구현하고 있는지 아는 사람?
아마 blooio나 비슷한 업체일 듯. 전화번호 하나당 맥 미니랑 아이폰 하나씩 매칭해서 SMS를 수동으로 처리하는 방식일걸.
이거 Instinct랑 엄청 비슷하게 들리는데
그 부분이 제대로 설명이 안 되고 있는 지점이지.
완전 동의함. 누군가 내 업무용 이메일을 해킹해서 회사 전체에 막말을 퍼붓는 보안 위험은 차치하고라도, 그건 내가 아니라 AI가 나를 사칭한 게 될 테니까.
애초에 업무용 이메일을 개인 에이전트에 연결하는 건 절대 하면 안 됨. 재앙이 일어날 게 뻔하잖아.
그건 프롬프트 인젝션 문제인데, 그들은 그 부분에 대해 엄청나게 훈련을 많이 했음. 물론 그 훈련을 못 믿겠다면 당연히 쓰지 말아야겠지만, 가장 흔한 우려 사항이라 꽤 강력한 안전장치를 마련해 둔 상태임.
모르겠음. 내가 일회용 코드를 받으려고 한다고 쳐보자. 내가 접근할 수 없는 누군가의 이메일로 코드를 보냄. 그다음 그 사람인 척 문자를 보내거나 번호를 조작해서 AI를 설득해 코드를 받아내는 거지. 이게 쉽다는 건 아니지만, 이런 종류의 인젝션을 막을 만큼 충분히 훈련되었다고는 생각 안 함. 내 현재 전략은 모든 다중 인증을 다른 이메일로 옮기는 거임.
Twilio나 Bird, Sendgrid 같은 걸로 문자 메시지 처리하는 거에 비하면 너무 번거로워 보이는데.
이거 왜 하는지 아는 사람? 도무지 이해가 안 가네.
AI 에이전트가 통제 불능 상태로 폭주하는 영상을 보고 사용자들이 보인 유머러스한 반응들입니다.
AI 에이전트가 통제 불능 상태로 폭주하는 영상을 보고 사용자들이 보인 유머러스한 반응들입니다.
ChatGPT의 채팅과 워크 모드가 통합되면서 사용량 제한이 공유될 가능성에 사용자들이 크게 반발하고 있습니다.
ChatGPT의 채팅과 워크 모드가 통합되면서 사용량 제한이 공유될 가능성에 사용자들이 크게 반발하고 있습니다.
AI가 '초지능'을 자처하지만 정작 잉크가 부족해 제대로 출력하지 못하는 상황을 풍자한 이미지 포스트입니다.
AI가 '초지능'을 자처하지만 정작 잉크가 부족해 제대로 출력하지 못하는 상황을 풍자한 이미지 포스트입니다.