r/AI_Agents•4개월 전•7•29
AI 에이전트를 위한 셸 수준 보안 계층 오픈소스화
Open-sourcing a shell-level security layer for AI agents
핵심 요약
AI 에이전트가 민감한 파일이나 프로덕션 환경에 무단 접근하지 못하도록 제어하는 셸 수준 보안 계층을 개발함.
- 보안 계층 구축 — AI 에이전트가 .env 파일이나 프로덕션 자원에 무단 접근하는 것을 방지함.
- 런타임 정책 강제 — 프롬프트에만 의존하지 않고 셸 수준에서 위험한 명령을 차단하거나 가짜 비밀 정보를 노출함.
- 환경 분리 — 개발 환경과 프로덕션 환경의 접근 정책을 엄격하게 분리하여 에이전트의 결정론적 동작을 보장함.
- 커뮤니티 피드백 — Claude Code, Cursor 등 실제 워크플로우에서 보안 취약점을 테스트할 사용자를 모집함.
AI 에이전트와 한동안 작업하면서 계속 같은 문제에 부딪혔습니다.
결국 에이전트가 경계를 무시하고, .env 파일을 읽거나, 프로덕션 자원을 건드리거나, 접근해서는 안 될 비밀 정보를 사용하는 일이 발생합니다.
MCP 읽기 전용 설정과 신중하게 작성된 프롬프트를 사용하더라도, 셸 자체를 너무 많이 신뢰하고 있는 상태입니다.
그래서 AI 에이전트를 위한 셸 수준 제어 계층을 만들기 시작했습니다:
- 위험한 명령 차단 또는 삭제
- 실제 비밀 정보 대신 가상/가짜 비밀 정보 노출
- DEV / PROD 접근 정책 분리
- 네트워크/도메인 접근 제한
- 프롬프트에만 의존하지 않고 런타임 정책 강제
목표는 실제 개발 환경 내에서 에이전트를 더 안전하고 결정론적으로 만드는 것입니다.
이제 오픈소스로 공개하며 Claude Code, Codex, Cursor 등을 사용하는 분들이 실제 워크플로우에서 이 보안 계층을 뚫어보기를 바랍니다.
피드백, 비판, 공격 아이디어 모두 환영합니다.
댓글에 PyPI 링크 남겨두었습니다.
