디지털 성범죄 막는 AI 기술, 전국에 무상보급

2023년 전국 최초 서울시 자체 개발
AI 도입해 3시간→6분 처리시간 단축

서울시가 자체 개발한 ‘디지털 성범죄 인공지능(AI) 삭제지원’ 기술을 전국에 무상 보급한다. 이 기술은 AI 기반으로 불법 성착취 영상물이나 웹사이트를 탐지하는 속도와 정확도를 높여 피해가 커지기 전에 온라인상에서 삭제할 수 있다.

서울시는 첫 무상 기술이전 계약을 시작으로 정부기관과 지방자치단체, 공익 목적 기관을 대상으로 기술 이전을 추진한다고 3일 밝혔다. 기존에는 상담원이 일일이 디지털 성범죄로 의심되는 불법 웹사이트와 영상물을 육안으로 찾아 신고해야 했다. 하지만 AI 기반 기술이 개발되면서 AI가 24시간 웹사이트와 소셜네트워크서비스(SNS) 등을 실시간 모니터링해 성착취 영상물을 자동 탐지하고 삭제를 지원하고 있다. 수작업으로 일일이 확인하기 어려웠던 신규·해외 사이트까지 자동 탐색할 수 있고, 딥페이크 영상도 원본 없이 복제·변형본을 식별할 수 있다.

시에 따르면 AI 도입 이후 처리시간은 평균 3시간에서 6분으로 단축돼 약 30배 빨라졌다. 삭제지원 건수는 2022년 2509건에서 2025년 1만5777건으로 4년 만에 6배 이상 증가했다. 전국 다수 기관이 여전히 수작업 탐지 방식을 유지하고 있는 점을 감안하면 이 기술이 무상 보급되면 기관당 약 1억8000만 원의 예산 절감 효과도 기대된다.

이 기술은 2023년 3월 서울시와 서울연구원이 핵심기술을 자체 개발해 ‘서울 디지털성범죄 안심지원센터’에서 운영 중이다. 2024년에는 영상 속 인물의 얼굴을 인식해 연령대를 분석하고, 아동·청소년으로 판단될 경우 우선 삭제 대상으로 분류하는 기능을 추가했다. 지난해에는 탐지부터 신고까지 자동화하는 AI 자동신고 시스템을 구축하고 저작권 및 특허 등록을 마쳤다. 2023년 정부혁신 우수사례 대통령상 대상, 2024년 UN공공행정상 대상을 수상했고 전국 최초로 특허 등록도 완료했다.

서울시는 해외 비영리 기관과의 협력도 검토 중이다. 마채숙 서울시 여성가족실장은 “피해자 보호 기술을 공공의 안전을 위한 공공재로 확장하겠다”고 밝혔다.