확산하는 딥페이크, 청소년 보호 위한 교육이 필요하다[기고/배상률]

배상률 한국청소년정책연구원 선임연구위원

2013년 필자가 연구책임을 맡았던 여성가족부의 ‘청소년 매체 이용 실태조사’는 매체 환경 변화가 청소년에게 미치는 파급 효과를 여실히 보여주며 언론의 주목을 받았다. 2011년까지만 해도 청소년(초4∼고3)의 스마트폰 보유율은 36%에 불과했지만, 2년 만에 81%로 2.3배 증가했다. 청소년의 성인 콘텐츠 이용 경험률도 4.5%에서 16.1%로 3.6배 치솟았다.

10여 년이 지난 지금 미디어 환경은 그때보다 더 급격히 바뀌고 있다. 스마트폰은 만인의 필수품이 됐고 생성형 인공지능(AI)은 우리의 일상에 스며들었다. 한국청소년정책연구원의 최근 조사에 따르면 중고교생 68%가 생성형 AI를 사용한 경험이 있고, ‘다른 사람의 얼굴을 야한 사진이나 영상에 합성한 적이 있다’고 응답한 비율도 2.2%로 나타났다.

청소년이 유해 콘텐츠에 노출되는 것을 넘어 이제는 생성형 AI로 유해 콘텐츠를 직접 제작하고 확산시키는 주체가 됐다는 점에서 우려는 더욱 커지고 있다. 실제로 경찰청이 지난해 1∼10월 단속한 결과 딥페이크 성범죄로 검거된 474명 가운데 10대 청소년이 381명으로 전체의 80%를 차지했다. 조작된 이미지나 영상이 장난처럼 소비되고 그로 인한 권리 침해가 범죄로 인식되지 않는 경우도 적지 않다.

딥페이크 성범죄가 사회적 문제로 부상하면서 국회는 지난해 9월 관련 법을 개정했다. 주요 내용은 △딥페이크 성범죄에 대한 처벌 요건 확대 및 형량 강화 △단순 시청 행위에 대한 처벌 신설 △지자체의 삭제 지원 등 피해자 보호 강화 △경찰 긴급수사 권한 부여 등이다. 이번 법 개정은 딥페이크 성범죄에 대해 적극적인 대응 체계를 마련했다는 점에서 의미가 크다. 그러나 기술의 발전 속도에 비해 제도 개선은 여전히 더디고 사후적 조치에 머무른다는 한계를 안고 있다. 무엇보다 중요한 것은 청소년이 딥페이크의 위험성을 사전에 인식하고 관련 윤리의식을 기를 수 있도록 하는 예방 중심의 교육이다.

필자가 미디어교육위원으로 활동 중인 시청자미디어재단은 올해 재단 중점사업으로 ‘전 국민 딥페이크 예방교육’을 선정했다. 중고교생 대상의 딥페이크 범죄 예방 특강은 전년보다 네 배가 넘는 400회 이상 운영될 예정이다. 청소년과 디지털 취약계층을 중심으로 관련 교육도 강화해 나가고 있다. 또 전국 12개 시청자미디어센터의 교육과정에 딥페이크 예방교육을 의무적으로 편성하도록 했다. 딥보이스, 사이버불링, 온라인 피싱 등 신종 허위 정보에 대한 대응 교육까지 포괄해 비판적 사고력과 윤리적 감수성을 함양하는 데 초점을 두고 있다.

‘모든 기술은 짐이자 축복이다.’ 미디어 석학이자 문화 비평가인 닐 포스트먼이 자신의 저서 ‘테크노폴리’에서 던진 통찰이다. AI는 분명 우리 삶에 효율성과 편리함을 더했지만 동시에 딥페이크 성범죄, 허위 정보와 같은 새로운 위협도 만들어 냈다. 기술이 초래하는 역기능을 줄이고 순기능을 실현하기 위해서는 규제와 처벌만으로는 한계가 있다. 기술을 사용하는 개인과 그가 속한 사회 구성원이 디지털 시민성을 갖추는 것이 무엇보다 중요하다. 이를 위한 교육적 기반을 마련하는 데 있어 학교뿐만 아니라 시청자미디어재단과 같은 공공영역의 역할이 더욱 중요해지고 있다.