“장당 1200원” 성인인증 없이 가입 동급생 얼굴에 나체사진 합성 피의자 2023년 91명→829명으로 “학생 교육-플랫폼 규제 강화해야”
온라인상에서 딥페이크 음란물을 만들 수 있는 사이트가 공유되고 있는 모습. 가상사설망(VPN)을 통해 접속 차단을 우회하라는 안내문구가 함께 게재돼 있다.
● 10대 딥페이크 피의자 829명, 2년 새 9배로 증가
31일 경기 화성시의 한 중학교에 따르면 지난해 6월 이 학교에서 학생들이 동급생의 딥페이크 나체 사진을 만들어 달라고 의뢰하고 합성물을 제작했다는 논란이 일어 학교가 진상 파악에 나섰다. 학교폭력대책심의위원회 회의록에 따르면 가해 학생들은 소셜네트워크서비스(SNS)에서 같은 학교 한 여학생의 얼굴이 나온 사진을 AI를 이용해 다른 나체 사진에 합성한 뒤 서로 돌려봤다. 피해 학생 측 가족의 신고로 수사에 나선 경기남부경찰청은 가해 학생 2명에게 성폭력처벌법 위반 혐의를 적용해 지난달 18일 각각 소년재판부와 검찰에 송치했다.
광고 로드중
● 딥페이크 제작 사이트, 온라인에 활개
문제는 10대들이 온라인에 공개된 성인용 딥페이크 제작 페이지에 마음만 먹으면 제한 없이 접근할 수 있다는 점이다. 실제로 X(옛 트위터) 등에서 나체 사진 제작 AI 링크를 의미하는 키워드를 검색하자 다수의 딥페이크 사이트가 노출됐다. 한 사이트의 경우 별다른 성인 인증 없이 텔레그램을 통해 회원으로 가입할 수 있고, 사진 1장에 약 1200원을 내면 합성물을 만들 수 있었다.
온라인에는 이런 웹사이트를 이용하는 방법을 제한 없이 공유하고 있었다. 접속이 차단된 사이트에 접속하는 방법을 안내하거나 “19금 검열이 없다” 등 특정 서비스를 추천하는 글도 있었다. 성인용 딥페이크 제작 사이트 목록과 리뷰를 모아둔 웹사이트도 있었다.
애플리케이션 장터에서도 비슷한 앱이 여럿 검색됐다. 구글 플레이스토어에서 AI 딥페이크 제작 앱 12개를 다운로드해 확인해보니 제작 가능한 예시로 나체 또는 성행위 영상물이 제시돼 있었다. 이 앱들은 ‘반려 동물 영상화’ 등을 기능으로 내세웠지만 실제론 첫 화면부터 낯 뜨거운 이미지가 노출됐다. 이 가운데 6개는 이용 가능 연령이 ‘3세 이상’이었다.
광고 로드중
플랫폼 사업자들에 대한 책임을 강화해야 한다는 지적도 나왔다. 이성엽 고려대 기술경영전문대학원 교수는 “플랫폼 사업자들이 단순 유통 중개를 넘어 검색 차단과 미성년자 접근 제한 등의 조치를 적극적으로 하도록 법적 의무를 강화해야 한다”고 말했다.
정동진 기자 haedoji@donga.com