불법 딥페이크, 피해자가 요구땐 심의前 삭제

게티이미지뱅크

앞으로 인공지능(AI)으로 이미지를 합성하는 딥페이크 기술을 악용한 불법 사진이나 동영상 등에 피해를 입은 당사자는 직접 삭제를 요구할 수 있는 ‘삭제 요구권’이 마련된다. 디지털 불법·유해 콘텐츠는 확산 피해를 최소화하기 위해 관련 기관이 먼저 적극 차단한 뒤 나중에 심의할 방침이다.

14일 개인정보보호위원회(개보위)는 2025년 주요 업무 추진계획에서 “딥페이크 합성 콘텐츠에 대해 정보 주체의 ‘삭제 요구권’을 도입하겠다”고 밝혔다. 지금도 방송통신심의위원회 등을 통해 누구든 온라인 불법 게시물을 삭제할 수 있었지만, 여러 단계를 거쳐야 해 심의 과정에서 시간이 지체될 가능성이 컸다. 앞으로 피해자의 법적 권리를 강화하고, 악성 콘텐츠에 대한 처리 절차도 간소화할 예정이다.

소셜미디어에서 타인을 사칭하거나 인격적 가치를 훼손하는 개인정보 합성 행위 등을 금지·처벌하는 방안도 추진된다. 개보위 관계자는 “지난해 사회적 논란이 됐던 성적 허위 영상물뿐만 아니라 유명인 사칭 광고 등 각종 불법 합성물 제작을 근절하고자 관련법 개정을 추진하겠다”고 설명했다.

방송통신위원회(방통위)도 업무 추진계획에서 “성범죄물 등 불법 온라인 콘텐츠는 먼저 빠르게 차단 뒤 이후 심의할 수 있는 방안 등이 담긴 ‘AI 이용자 보호 종합계획’을 수립하겠다”고 밝혔다. 온라인 불법 콘텐츠의 확산 속도를 고려할 때 심의 과정에서 발생할 수 있는 2차 피해를 줄이려는 것이다. 마약이나 도박 등 불법성이 명백한 콘텐츠도 48시간 이내 차단, 삭제할 수 있도록 관리 및 감독 절차를 강화한다. AI 사업자를 유형 별로 차등 규제하고, 향후 AI 사업자의 이용자 보호 업무도 평가할 예정이다.

최근 숫자가 크게 급증한 불법스팸은 사업자의 범죄수익을 몰수하고 과징금도 부과하는 등 제재를 강화하기로 했다. AI 스팸 필터링 시스템을 구축하고, 통신 사업자들과 협의해 ‘해외문자 차단함’ 신설도 추진된다.

쇼핑·배달·교육 등 민생과 밀접한 플랫폼 서비스와 관련해 이용자 피해 유발 행위도 집중 점검한다. 특히 요금‧이용조건 등 중요 정보를 제대로 고지하지 않거나 이용자를 기만하는 ‘다크패턴’ 광고에 대한 관리 감독을 강화할 방침이다.

방송사 재허가‧재승인 심사나 방송평가에선 저출생 위기 극복 및 재난피해 예방프로그램 편성 내역 등을 공익성 심사 및 평가에 반영한다. 아울러 방송사들의 규제 부담을 완화하기 위해 방송사업 허가·승인 시 원칙과 사유를 공개하고 허가·승인 유효기간도 늘릴 방침이다.


김기윤 기자 pep@donga.com
송진호 기자jino@donga.com