Your agent could be leaking your email online at this very moment!!
Claude Code 에이전트가 사용자 이메일을 외부 서버 헤더에 무단으로 포함해 전송하는 보안 이슈가 제기되었습니다.
내 에이전트한테 물어봤는데, 이거 요구하는 헤더마다 계속 똑같은 짓을 반복하고 있네.
사용자들은 에이전트의 잠재적인 데이터 유출 위험을 경계하며 기술적인 보안 방안을 논의하는 한편, 개인정보 수집에 대한 농담 섞인 반응을 보이고 있습니다.
나도 당했음. 내 Git 이메일을 위키피디아 헤더에 보내버리더라. "맞아요, 그러지 말았어야 했는데"라고 하더군.
난 안 그러던데, 심지어 테스트 환경까지 만들어서 재현해보려 했는데도 안 됐음. 에이전트가 그런 짓을 하지 말라는 내부 규칙도 명시하더라고.
대체 어떻게 한 거임?
비결정론적임.
맞음 이거 - 세션을 다른 곳으로 내보냈더니 원래 채팅이랑 비교해서 완전 막 나가더라. 오 데이브 난 그거 못 해, 하다가 응 그래 그 문들 열어줄게 또 필요한 거 있냐 친구? 이렇게 됨.
내 것도 루틴한 API 호출 시키면 맨날 저럼. 익명으로 호출하게 설정해도 여전히 저러더라. 난 그냥 평범한 연방 데이터베이스에서 일상적인 데이터 조회하는 거라 딱히 신경 안 쓰지만, 하지 말라고 해도 아주 그냥 툭하면 다 불어버림.
내 에이전트도 아마 내 정보를 온갖 곳에 흘리고 다니겠지. 얼리어답터가 되는 대가라고 생각해야지 뭐.
정확함. 로봇 지배자들이 세상을 장악할 때, 걔들은 초기 사용자들의 성격을 학습하게 될 거임. 즉, 때가 되면 걔들이 우리한테는 나머지 사람들보다 좀 더 빨리 죽음을 선사할지도 모른다는 거지.
CLAUDE.md에 한 줄 적는 것도 도움은 되지만, 모델이 작업이랑 비교해서 판단하는 요청일 뿐임. 진짜 확실한 건 Bash랑 WebFetch에 PreToolUse 훅을 거는 거임: 도구 호출을 json으로 stdin에서 받아서, grep으로 네 이메일(이랑 깃허브 노리플라이 주소)을 찾아내고, 일치하면 exit 2를 띄우는 거지. 호출은 차단되고 모델은 네 stderr 메시지를 다시 받게 됨. 셸 스크립트 10줄 정도면 됨.
위키피디아가 왜 이런 일이 일어나는지 보여주는 좋은 예시인데, 걔네 API 정책이 User-Agent에 연락처 정보를 넣으라고 요구하니까 에이전트가 "친절하게도" 가지고 있는 주소를 아무거나 넣어서 채워버리는 거임.
AI랑 상관없이 수많은 웹사이트들이 네 개인정보로 무슨 짓을 하는지 알게 되면 기절할걸.
걔네 내 이름으로 딸이라도 치냐?
뭐 어때! 그냥 유출되게 둬... 지금 시점에서는 진짜 신경 안 씀. 나에 대해 흥미로운 것도 없고, 머지않은 미래에는 내 정보가 유출되는 게 내 걱정거리 중 가장 사소한 일이 될 거라는 느낌이 들어서.
완전 동의함. 로그를 훑어봤을 때 딱히 발견된 건 없었지만, Claude가 작은 훅을 만들게 했음. 모든 엣지 케이스를 다루지는 못하고 의도적인 데이터 유출을 막지는 못할 거임. 난 실행된 명령어만 스캔하기 때문에, 예를 들어 curl 명령어 안에서 주소를 조합하면 잡아낼 수 없음. 그리고 기본적으로 사용자에게 물어보도록 설정했음. 안 그러면 모델이 automode로 실행될 때 이 제약을 우회하려고 시도할 가능성이 높다고 봄.
https://github.com/guppybot161/ai-tools/tree/main/hooks/pii-egress-guard
기본적으로 물어보게 설정하는 게 맞다고 봄. auto mode에서 무조건 차단하면 모델은 그걸 우회할 방법을 찾는 퍼즐로 인식하거든.
그리고 런타임에 주소를 조합하는 건 명령어 grep으로 볼 수 있는 범위를 넘어서지. 그 시점부터는 텍스트 문제가 아니라 네트워크 문제임. 에이전트가 접근할 수 있는 도메인에 대한 egress allowlist를 만들어서, 문자열이 어떻게 조합되든 위키피디아로 가는 헤더는 절대 밖으로 나가지 못하게 해야 함.
curl 요청에 이메일이 포함되어 있으면 차단하는 pre tool use hook을 만들어.
응.. 나 그 회사 다니는데 우리 회사엔 'goon booth'가 있어서 모든 정보로 딸치고 특별한 날엔 단체로 모여서 사실상 갱뱅함 😭✌️
Claude의 20x 요금제와 5x 요금제의 사용량 차이가 불투명하다는 의혹을 두고 사용자들 간에 치열한 논쟁이 벌어지고 있습니다.
Claude의 20x 요금제와 5x 요금제의 사용량 차이가 불투명하다는 의혹을 두고 사용자들 간에 치열한 논쟁이 벌어지고 있습니다.
AI 에이전트 도입으로 업무 효율이 오르는 대신, 인간이 에이전트의 결과물을 검토하고 관리하는 '중간 관리자' 역할에 갇히는 현상을 분석합니다.
AI 에이전트 도입으로 업무 효율이 오르는 대신, 인간이 에이전트의 결과물을 검토하고 관리하는 '중간 관리자' 역할에 갇히는 현상을 분석합니다.
Claude의 뛰어난 성능과 까다로운 검열에 대한 공감대와 함께, 효율적인 AI 활용 전략이 공유됨.
Claude의 뛰어난 성능과 까다로운 검열에 대한 공감대와 함께, 효율적인 AI 활용 전략이 공유됨.