r/vibecoding•2개월 전•25•41
모델이 보이지 않는 기능(보안 등)을 완전히 처리한다고 믿는 것에 대한 무서운 사실을 깨달음
Realized something terrifying about fully trusting the model with invisible features (like security)
핵심 요약
AI 모델이 작성한 코드의 보안성을 검증하지 않고 무작정 신뢰하는 '바이브 코딩'의 위험성에 대한 고민.
- 바이브 코딩의 위험성 — AI가 작성한 코드의 보안 검증 없이 신뢰하는 행태를 경계함.
- 보안 검증의 어려움 — 모델이 보안을 강화했다고 주장해도 실제 코드는 엉망일 수 있음.
- 코드 가독성 문제 — AI가 생성한 코드가 복잡해 사람이 직접 검토하기 어려워짐.
- 보안 감사 도구 — Semgrep, CodeQL 등 자동화된 보안 스캐너 사용을 권장함.
제목이 곧 내용임. 이제는 소스 코드조차 확인하지 않는 바이브 코딩 단계에 도달했음. 그냥 모델한테 뭐가 바뀌었는지 요약해달라고 함.
그런데 방금 보안 취약점을 수정해달라고 했음. 모델이 자기 할 일을 다 하고 훌륭한 요약을 줬는데, 깨달은 게 있음... 이걸 검증할 쉬운 방법이 전혀 없다는 거임.
모델이 기능을 환각(hallucinate)하면 코드가 깨진 게 보일 거임. 하지만 보안을 환각하면? 실제 코드는 엉망진창인데 모든 게 잠겨있다고 말할 수도 있음.
우리 그냥 바이브만 믿고 있는 건가, 아니면 이런 걸 감사할 가벼운 방법이 따로 있음?
