서울시 “AI로 아동 성착취물 90초 만에 삭제”

감시 기술 전국 첫 개발, 24시간 추적
작년 2배 30만건 모니터링 기대

“야한 사진 보내줘. 사진 보내주면 5만 원도 줄 수 있어.”

지난해 9월 용돈이 부족해 아르바이트를 구하던 중학생 A 양(16)은 소셜네트워크서비스(SNS)에서 불특정 상대방과의 온라인 채팅 대화 1건당 70원을 준다는 광고를 접했다. A 양에게 접근한 가해자는 처음엔 일상적 대화를 이어갔지만 점차 얼굴 사진이나 노출 사진 등을 요구했다. A 양이 거절하자 가해자는 “이런 아르바이트 하는 걸 부모에게 말하겠다”며 협박했고, A 양이 보낸 사진을 온라인에 유포했다.

22일 서울 디지털 성범죄 안심지원센터에 따르면 이같이 아동·청소년을 대상으로 한 디지털 성범죄 피해 관련 지원은 매년 급증해 2022년 총 2026건에서 지난해 7배 이상인 1만5434건으로 늘었다. 센터에 따르면 아동·청소년을 대상으로 한 대표적인 디지털 성범죄 유형으로는 미성년 피해자를 유인하고 길들이는 ‘온라인 그루밍’을 비롯해 불법 사진 합성, 관련 사진이나 동영상 유포·재유포, 신체 불법 촬영물인 ‘몸캠’ 협박 등이 있었다.

이에 서울시는 아동·청소년 성착취물을 특정할 수 있는 인공지능(AI) 감시 기술을 전국 최초로 개발·도입해 24시간 자동 추적·감시에 나서기로 했다. 아동·청소년은 관련 법에 따라 당사자나 부모의 신고가 없이도 피해 영상물을 삭제할 수 있다. 이에 따라 AI 기술을 바탕으로 피해 영상물을 신속하게 찾아내고 삭제한다는 계획이다.

이번에 도입된 AI 감시 시스템은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구별되지 않는 아동·청소년의 성별과 나이까지 판별할 수 있는 시스템이다. 또 AI가 영상물에 자주 등장하는 책이나 교복, 청소년이 사용하는 언어 등을 함께 인식하기 때문에 영상물에 얼굴이 등장하지 않더라도 피해 여부를 판별할 수 있다.

성착취물을 찾아내 삭제하기까지 걸리는 시간과 정확도 역시 크게 향상된다. 키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않아 기존에 영상물을 수작업으로 찾아낼 때와 비교하면 검출 속도는 80분의 1 수준으로 줄고, 정확도는 300% 이상 향상된다. 서울시 관계자는 “지난해 수작업으로 이뤄진 모니터링 건수 15만 건의 2배에 달하는 약 30만 건까지 모니터링할 수 있을 것”이라고 설명했다.


이채완 기자 chaewani@donga.com