청소년 20명 중 1명 ‘딥페이크 피해’… 삭제는 ‘느릿느릿’

韓 ‘아동 불법 콘텐츠’ 규제 부실
초중고교생, 불법 합성-촬영 노출… 5년간 게시물 삭제 요청만 94만 건
29%는 방치… 플랫폼에 강제 못해
호주-미국, 기업에 삭제 의무 부과… 영국에선 위반 시 340억 원 벌금

“제 얼굴로 만든 딥페이크 영상이 소셜네트워크서비스(SNS)에 돌아다녔어요. 얼마나 많은 사람이 봤을지, 수치스럽고 불안해 잠이 안 와요.”

고교생 김혜림(가명) 양은 최근 자기 얼굴을 입힌 성인 동영상이 SNS에서 떠돈다는 사실을 친구들을 통해 알게 됐다. 김 양은 해당 플랫폼에 게시물 삭제를 요청했지만, 즉각적인 조치는 진행되지 않았다. 여러 차례 항의한 끝에 영상은 삭제됐지만 게시 기간은 길었다. 김 양은 학교 친구들이 모여 이야기할 때마다 자신을 보며 수군거리는 것 같아 괴롭다고 토로했다.

딥페이크 영상과 불법 촬영물 등 온라인에서 불법·유해 콘텐츠가 쉽게 유통되면서 피해를 받는 어린이와 청소년이 늘고 있다. 플랫폼 기업에 삭제 의무를 부과하는 등 온라인 폭력으로부터 보호할 법적 근거를 마련해야 한다는 지적이 나온다.

● 초중고교생 20명 중 1명 딥페이크 피해 경험

아동복지 전문기관 초록우산이 발표한 ‘2024 아동행복지수 심층 분석’에 따르면 초중고교생 1287명에게 설문 조사한 결과 20명 중 1명은 노출 사진이나 음란물 영상에 자신이나 지인의 얼굴이 합성된 것을 본 적이 있다고 답했다. 3.4%는 동의 없이 신체 일부가 촬영된 경험이 있다고 했다. 불법 촬영물을 유포하겠다는 협박을 받거나(3.3%), 실제로 온라인 채팅방에 공개되기도 했다(4.1%).

문제는 피해 발생 이후 대응이 신속하지 않다는 점이다. 한국여성인권진흥원 디지털성범죄피해자지원센터에 따르면 2020년 1월부터 지난해 6월까지 접수된 디지털 성범죄물 삭제 요청은 93만8651건에 달했으나, 26만9917건(28.7%)은 삭제되지 못했다. 올해 1∼6월에도 13만 건이 접수됐지만 약 5만 건은 아직 삭제되지 않았다. 온라인에 한번 유통된 불법 콘텐츠는 복제와 재업로드, 링크 공유를 통해 확산한다. 삭제돼도 다른 플랫폼에 남아 다시 게시되는 사례가 많다. 초기 대응이 늦어질수록 피해는 눈덩이처럼 커진다.

신속한 삭제를 위해선 플랫폼 기업의 협조가 필수다. 하지만 현행법으로 강제하기엔 한계가 있다. 전기통신사업법에 따르면 플랫폼 운영자가 불법 촬영물 등에 대해 신고나 삭제 요청을 받으면 ‘지체 없이’ 삭제, 접속 차단 등을 해야 한다. 하지만 구체적인 삭제 기한은 명시되지 않았다. 삭제까지 수개월이 걸려도 책임을 묻기 어렵다. 정보통신망법은 음란물이나 청소년에게 해로운 정보 등의 유통을 금지하고 있지만, 역시 구체적인 삭제 기한이 정해지지 않았다. 플랫폼 설계에서 불법 촬영물 유통 등을 예방하는 시스템도 마련돼 있지 않다. 김승현 초록우산 아동옹호본부장은 “플랫폼은 콘텐츠 확산이 수익과 직결되는 구조라 아동 권리보다 기업 이익이 우선”이라며 “자율 규제에 맡길 게 아니라 실효성 있게 법적 책임을 부과해야 한다”고 말했다.

● 주요국, 불법 촬영물 등 삭제 시한-벌칙 명시

해외 주요국은 온라인에서 아동을 보호하기 위해 플랫폼의 법적 책임을 구체적으로 명시하고 있다. 호주는 2021년 온라인안전국을 설립하고 삭제 명령을 받은 유해 콘텐츠를 24시간 내 삭제하지 않은 기업에 제재를 가한다.

영국은 2023년 통과된 ‘온라인 안전법’을 통해 아동이 접근할 수 있는 모든 플랫폼에 아동의 유해 콘텐츠 노출 위험도 등의 분석을 의무화했다. 위반하면 최대 1800만 파운드(약 340억 원)의 벌금을 부과한다. 미국도 올해 5월 통과된 ‘테이크 잇 다운법’을 통해 플랫폼 기업에 비동의 성적 이미지 등에 대한 삭제 의무를 명문화했다.

한국도 디지털 불법·유해 콘텐츠 유통에 대한 플랫폼 기업 책임을 강화하고 정부 관리·감독을 강화해야 한다는 지적이 나온다. 초록우산은 올해 9월부터 ‘지금, 끝내야 할 때’ 캠페인을 진행 중이다. 이 캠페인은 불법 콘텐츠의 신속한 삭제를 위한 구체적 시한을 명시하고 플랫폼 기업이 스스로 위험을 분석하고 대비하는 위험평가 제도를 도입하며 법을 어길 때 실효성이 있는 강력한 제재를 부과해야 한다고 제안하고 있다.

올 9월 8일 서울 영등포구 국회 의원회관에서 열린 ‘디지털 환경에서의 아동청소년 권리 보장을 위한 정책토론회’에서 참석자들이 포즈를 취하고 있다. 앞줄 왼쪽은 조인철 더불어민주당 의원, 왼쪽에서 세 번째는 최형두 국민의힘 의원, 네 번째는 황영기 초록우산 회장. 초록우산 제공

국회에선 디지털 불법 콘텐츠 대응과 관련된 법안 3건이 발의됐다. 초록우산은 아동과 관련된 ‘온라인 세이프티’를 아동 권리 옹호 과제로 삼고 지속적, 단계적으로 추진할 계획이다. 황영기 초록우산 회장은 “플랫폼 기업의 책임을 명확히 하고 법적 장치를 강화하는 등 아동들이 안전하게 디지털 환경에 접근할 수 있도록 다양한 활동을 강화해 나갈 것”이라고 말했다.

방성은 기자 bbang@donga.com