사내 봇이 미공개 조직 개편 계획을 답변해버렸습니다. 위키만 읽기로 되어 있었는데 말이죠.
Our internal bot answered a question with the unannounced reorg plan. It was only supposed to read the wiki
핵심 요약
사내 AI 에이전트가 권한 설정 오류로 인해 기밀인 인사 자료를 유출한 사건에 대한 공유와 보안 대책 논의.
- 권한 설정 오류 — AI 에이전트가 설정자의 계정 권한을 상속받아 기밀 폴더까지 접근함.
- 보안 대책 — 에이전트별 별도 서비스 계정 생성 및 읽기 전용 권한 제한 필요.
- 접근 제어 — 검색 시 사용자별 권한을 확인하는 ACL 체크 도입의 중요성.
- 감사 주기 — 에이전트의 접근 범위를 정기적으로 검토하는 습관화 필요.
지난주에 우리 내부 어시스턴트 놈이 대답하면 안 되는 질문에 대답을 해버렸다.
누가 팀 구조에 대해 물어봤는데, 이 자식이 아직 발표도 안 한 스프레드시트 내용을 그대로 읊어버린 거임. 조직 개편 계획은 물론이고 연봉 테이블까지 다 까발렸다. 질문한 놈은 그게 기밀인지도 몰랐을 거 아냐. 그냥 답변을 받은 것뿐이니까.
봇은 원래 우리가 승인한 지식 베이스 안에서만 대답하게 돼 있다. 처음에 세팅할 때 드라이브 파일 접근 권한을 물어보길래 그냥 '예'를 눌렀거든. 그 권한 범위가 문제였던 거임. HR 폴더처럼 기밀로 분류된 것까지 싹 다 인덱싱해버린 거지.
그래서 일주일 내내 우리 에이전트들이 어디까지 접근할 수 있는지 싹 다 뒤져봤다. 대부분은 괜찮았는데, 딱 하나 눈에 띄는 놈이 있더라. 내부 위키 몇 개 읽고 요약하는 게 전부인 놈인데, 공유 드라이브 삭제 권한까지 가지고 있고 심지어 만든 사람 계정으로 메일도 보낼 수 있었음. 누가 그렇게 설정한 것도 아닌데, 그냥 계정 세팅할 때 권한을 그대로 상속받은 거임.
뭐 외부에서 공격당한 건 아니지만, 접근 권한 자체가 문제였다. 모든 걸 다 읽을 수 있는 에이전트는 결국 읽지 말아야 할 것까지 읽게 되어 있음.
궁금해서 물어보는데, 다들 자기네 내부 에이전트가 어디까지 접근 가능한지 감사해 본 적 있냐? 이거 그대로 방치하면 진짜 제대로 털릴 것 같아서 등골이 서늘하다.
