ChatGPT에 데이터가 전송되기 전 민감 정보를 익명화하는 크롬 확장 프로그램을 만들었습니다. 피드백 부탁드립니다.

익스텐션이 익명화를 위해 텍스트를 우리 API로 보내고, 탐지는 우리 인프라에서 다중 분석 레이어를 거쳐서 실행됨. [NAME]이나 [EMAIL] 같은 플레이스홀더로 익명화된 버전만 ChatGPT로 전송됨. 기본적으로 원본 프롬프트는 저장 안 되지만, 회사가 컴플라이언스 목적으로 로그를 선택적으로 활성화할 수는 있음.

나도 똑같은 거 만들었는데, 이건 로컬에서 오프라인으로 작동함. 텍스트, PDF, 엑셀, 이미지 다 지원하고. AI로 바로 결과물을 업로드하지도 않음. 진짜 괜찮음.

좋네, 그게 우리가 고려했던 트레이드오프의 다른 측면이지.

호기심에 묻는 건데, 온디바이스 탐지에는 뭘 쓰고 있어? 우리는 지저분한 실제 텍스트(긴 프롬프트에 섞인 이름, 주소, 고객 데이터)에서 브라우저가 감당하기에 너무 무겁지 않으면서도 괜찮은 수준의 리콜을 보여주는 로컬 NER 모델을 찾지 못해서 서버 사이드 방식을 택했거든. 만약 로컬에서 잘 작동하는 걸 찾았다면, 진짜 뭘 쓰는지 알고 싶네.

진짜 유용한 아이디어고 타이밍도 딱 좋네. 많은 조직이 'AI 전면 금지'와 '직원들이 고객 계약서를 붙여넣지 않길 기도하기' 사이에서 곤란해하고 있는데, 둘 다 장기적으로는 잘 안 먹히거든. 프롬프트가 브라우저를 떠나기 전에 민감한 필드를 탐지하고 교체하는 건 아주 똑똑한 절충안이야. 특히 본격적인 DLP 설정을 할 예산이 없는 소규모 팀들한테는 더더욱.

개발하면서 고려해 볼 만한 몇 가지: 오탐(false negative)이 아마 가장 큰 리스크일 거야(계좌 번호 같은 것들...)

시간 내서 이런 글 써줘서 고마워, 정확히 핵심을 찌르는 질문들이네.