이 트윗은 무서운 진실을 담고 있다

Steven에게 공을 돌린다^

솔직히 말해서 나도 AI 안전 관련 오픈소스 프로젝트 만들 때 Claude 쓰면서 비슷한 문제 겪었거든. Claude한테 코드랑 네트워크 접근 권한, 자격 증명 다 퍼주는 게 프라이버시 측면에서 존나 위험하다는 걸 깨달았지.

AI한테 보내는 모든 비밀 정보를 자동으로 가려버리는 방법이 있으면 어떨까?
예를 들어, 네 AWS 자격 증명이 ABC라면 Claude 같은 AI 에이전트한테는 DEF로 바꿔서 보내고, 서버랑 연결할 때는 다시 ABC로 복구하는 방식이지.

그리고 에이전트한테 우리가 허용한 호스트에만 연결할 수 있게 하면 어떨까? 마치 벽에 붙은 파리처럼 에이전트가 하는 행동을 안전하게 감시하는 거지.

지난 10개월 동안 나랑 같이 이 프로젝트에 매달린 연구원 28명이 있는데, 우리 오픈소스 프로젝트 prismor에 대해 커뮤니티에서 피드백 좀 주면 진짜 고맙겠다.