AI 코딩 에이전트의 보안 취약점을 잡아내는 오픈소스 보안 스캐너를 만들었습니다
I built an open-source security scanner that catches what AI coding agents get wrong
핵심 요약
AI 코딩 에이전트가 생성한 코드의 보안 취약점을 자동으로 탐지하고 차단하는 오픈소스 보안 도구 'Agentiva' 소개.
- 보안 스캐닝 — git push 시 하드코드된 자격 증명, SQL 인젝션 등 17가지 이상의 보안 위협을 자동으로 탐지함.
- 실시간 모니터링 — LangChain이나 CrewAI 에이전트의 도구 호출을 실시간으로 가로채 위험 점수를 매기고 차단함.
- 유연한 대응 — 위협 수준에 따라 차단, 그림자 모드, 허용 등 세 가지 단계로 보안 정책을 설정할 수 있음.
- 검증된 성능 — OWASP LLM Top 10 완벽 대응 및 NVIDIA Garak, Microsoft PyRIT를 통해 보안 성능을 검증함.
일주일 사이에 세 건의 공급망 공격이 개발자들을 강타했습니다. litellm은 9,700만 다운로드에서 AWS 자격 증명을 탈취했고, Claude Code는 npm을 통해 50만 줄의 코드를 유출했으며, axios는 트로이 목마를 배포했습니다. 아무도 이 공격들을 제때 잡아내지 못했죠.
저는 Agentiva를 만들었습니다. 설치 후 프로젝트에서 agentiva init을 실행하면 모든 git push가 자동으로 스캔됩니다. 하드코딩된 자격 증명, SQL 인젝션, 손상된 패키지, base64로 인코딩된 개인정보, 타이포스쿼팅 도메인, 권한 상승 등이 발견되면 푸시가 차단됩니다. 코드를 수정하고 다시 푸시하면 정상적으로 진행됩니다.
모든 파일 형식을 스캔합니다. .py나 .js뿐만 아니라 .yaml에 비밀번호가 있거나 .env에 API 키가 있어도 잡아냅니다.
탐지 항목 (17개 이상의 패턴):
- 하드코딩된 자격 증명 (API 키, AWS, Stripe, 개인 키)
- SQL 인젝션 (f-string 쿼리)
- 프롬프트 인젝션 (LLM에 대한 비살균 입력)
- LLM 출력 실행 (AI 응답에 대한 eval/exec)
- 손상된 패키지 (litellm 1.82.7, event-stream)
- Base64 인코딩된 민감 데이터
- 타이포스쿼팅 도메인
- 권한 상승
- SSH 키 인젝션
- XSS, 명령 인젝션, JWT 우회, 경로 탐색 등
또한 LangChain/CrewAI/OpenAI 에이전트를 위한 런타임 모니터로도 작동하며, 8단계 위험 점수 평가를 통해 도구 호출을 실시간으로 가로챕니다.
24,599개의 테스트 통과. OWASP LLM Top 10 100% 대응. NVIDIA Garak 및 Microsoft PyRIT 검증 완료.
pip install agentiva
GitHub: https://github.com/RishavAr/agentiva
Website: https://website-delta-black-67.vercel.app
PyPI: https://pypi.org/project/agentiva/
1인 개발자입니다. 피드백 주시면 감사하겠습니다.
