r/OpenAI•약 1개월 전•5•5
부적절한 콘텐츠 차단 방법
Block inappropriate content
핵심 요약
웹사이트와 앱에 적용할 이미지 및 영상 자동 검열 AI 도구와 API 추천을 요청함.
- 콘텐츠 검열 도구 — 이미지와 영상의 부적절한 내용을 자동으로 탐지하고 차단하는 API를 찾음.
- 추천 API 목록 — Sightengine, Hive, Google Cloud Vision 등이 언급됨.
- Google Cloud Vision — SafeSearch Detection 기능을 활용한 강력한 검열 솔루션으로 추천됨.
웹사이트랑 모바일 앱을 만들려고 하는데, 업로드되는 사진이랑 동영상을 자동으로 스캔해서 부적절한 콘텐츠를 걸러낼 AI 콘텐츠 모더레이션 시스템이 필요해.
나체, 성인물, 폭력, 마약, 혐오 표현 같은 부적절한 콘텐츠를 탐지하고 차단하는 데 가장 좋은 AI 모더레이션 툴이나 API가 뭔지 궁금해.
플랫폼에 게시되기 전에 이미지랑 동영상을 스캔해서, 규정을 위반하는 콘텐츠를 자동으로 차단하거나 플래그를 걸 수 있는 시스템이어야 해.
