얼굴 합성 ‘딥페이크 범죄’ 평범한 당신도 노린다

AI기술로 음란물에 지인 사진 합성
기존엔 주로 연예인 등 유명인 피해… 기술 문턱 낮아져 10대들까지 가세
범행 대상 일반인으로 확산 추세… SNS 통해 버젓이 주문-제작 거래
검거된 피의자 10명중 7명이 10대… 경찰 “미성년자도 처벌 대상”

“지인 딥페(딥페이크) 얼굴 합성해 드려요.”

최근 소셜미디어에서는 이런 글들을 쉽게 마주할 수 있다. 비슷한 해시태그로 확인해 보면 하루에도 수십 건 올라온다. 모두 돈을 내고 지인 얼굴을 보내주면 딥페이크 기술로 음란한 사진이나 영상에 실제처럼 합성해 주겠다는 제안이다. 때로는 미끼상품을 내걸듯 공짜라며 유혹하기도 한다. 모두 명백한 불법이다.

주로 연예인 등 유명 인사를 대상으로 저지르던 범죄인 ‘딥페이크 합성’이 최근 일반인들에게까지 급속도로 번지고 있다. 특히 기술에 대한 접근성이 높아지면서 인터넷과 스마트 기기에 친숙한 10대 청소년들까지 연루되는 사례가 늘고 있다. 성폭력을 넘어 ‘왕따’(집단 괴롭힘) 목적으로 불법 합성물을 유포하는 경우도 있다고 한다.

딥페이크는 몇 년 전부터 사회적 문제로 지적돼 왔지만 최근엔 그 양상이 더욱 심각해졌다. 범죄자들이 해외에 서버를 두고 연예인 등의 얼굴을 성착취물에 합성해 돈벌이 수단으로 삼는 일이 크게 늘었다. 피해자들의 고통이 심해지자 올해 초 ‘딥페이크 영상 제작·유포자를 강력히 처벌해 달라’는 청와대 국민청원이 30만 명 이상 동의를 얻기도 했다.

요즘엔 평소에 알고 지내던 평범한 일반인을 딥페이크의 희생물로 삼는 일이 많아졌다. 전문가에 따르면 딥페이크 관련 기술이 발전하며 프로그램 사용법이 손쉬워져 ‘포토샵’을 배우는 정도면 누구나 제작이 가능해졌다고 한다. 몇몇 딥페이크 합성물 제작 프로그램이 인터넷에 무료로 공개된 것도 이를 부채질했다.

국내 대형 포털사이트에서도 조금만 검색해 보면 딥페이크 합성물 제작법을 안내하는 영상과 글들을 쉽게 찾을 수 있다. 이흥규 KAIST 전산학부 교수는 “누구든지 관심을 갖고 약간의 시간을 투자하면 딥페이크 합성 영상을 만들 수 있는 상황”이라고 전했다.

이렇다 보니 함부로 성 관련 딥페이크 합성물을 만드는 건 심각한 위법행위라는 인식이 옅은 미성년자들이 범죄를 저지르는 일이 증가했다. 방송통신위원회의 ‘2020년 사이버폭력 실태 조사’에서 불법 합성물 제작·유포 등 디지털 성범죄를 목격한 경험이 있는 학생 가운데 16%가 “전혀 문제 되지 않는다”고 답할 정도다.

경찰에 따르면 지난해 12월부터 올해 4월까지 딥페이크 불법 합성물을 제작하거나 유포해 검거된 피의자 94명 가운데 10대가 무려 69.1%(65명)나 됐다. 인적사항이 확인된 딥페이크 합성 피해자 가운데 57.9%(66명)는 19세 미만이었다. 실제로 소셜미디어에는 ‘07년생 또래 환영’이라며 10대를 대상으로 불법 제작을 홍보하는 게시물도 있다.

일부 청소년 등은 딥페이크 불법 합성물을 집단 괴롭힘의 도구로 악용하기도 한다. 한국사이버성폭력대응센터의 서승희 대표는 “불법 합성물 범죄의 가해자들은 성욕 충족보다 불법 합성물을 활발하게 공유해 피해자에 대한 우월감을 즐기는 성향을 보인다”고 분석했다.

신종 코로나바이러스 감염증(코로나19) 장기화로 10대들이 집에 머무는 시간이 많아진 게 부정적 영향을 끼쳤다는 분석도 나온다. 학교폭력 치유예방센터 푸른나무재단 측은 “코로나19로 학폭(학교폭력)의 공간이 온라인으로 이동하는 경향이 나타난다. 그 결과로 불법 합성물로 인한 피해 사례도 꾸준히 접수되고 있다”고 전했다.

부산경찰청은 지난해 6, 7월 소셜미디어에서 불법 합성물과 성착취물을 판매해 130만 원 상당의 부당 이득을 거둔 10대 2명을 올해 2월 구속했다. 경찰 관계자는 “불법 합성물 제작·유포 행위는 명백히 성폭력 범죄의 처벌 등에 관한 특례법 위반인 만큼 미성년자도 예외 없이 경찰 수사 대상이란 점을 명심해야 한다”고 경고했다.

:: 딥페이크(Deepfake) ::

컴퓨터 심층학습을 일컫는 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어. 인공지능(AI) 기술을 활용해 인물의 얼굴을 다른 사진이나 영상에 실제처럼 조합한 편집물을 말한다. 2017년 미국 온라인커뮤니티 레딧(Reddit)에서 유명 인사들의 얼굴을 합성한 영상이 주목받으며 보편화됐다.

김태성 기자 kts5710@donga.com