울산남구 선관위, 허위 공표 혐의로 고발
해외 시사 주간지인 미국 ‘타임’지가 자신을 지역 발전을 이끌 인물로 선정했다는 내용의 딥페이크 영상을 AI로 제작해 개인 SNS에 이를 게시·유포한 A 씨. 선관위 제공
6·3 지방선거 선거운동을 위해 “미국 타임지에 선정된 인물” 이라는 허위 내용으로 인공지능(AI) 딥페이크 영상을 만들어 유포한 입후보 예정자가 처음으로 고발됐다. 2023년 12월 딥페이크 영상 등을 활용한 허위사실 공표 행위를 가중 처벌하기로 한 규정이 생긴 후 첫 고발사례다.
9일 중앙선거관리위원회에 따르면 울산 남구 선관위는 입후보예정자 A 씨를 공직선거법상 허위사실 공표 혐의로 경찰에 고발했다. A 씨는 해외 시사 주간지인 미국 ‘타임’지가 자신을 지역 발전을 이끌 인물로 선정했다는 내용의 딥페이크 영상을 AI로 제작해 개인 소셜네트워크서비스(SNS)에 게시·유포한 혐의를 받는다. 그는 AI로 제작했다는 사실을 영상에 표시하지도 않았다.
현행 공직선거법에 따르면 딥페이크 영상임을 표기하지 않고 당선 목적으로 후보자나 예비 후보자에게 유리한 허위사실을 공표할 경우 5년 이하의 징역 또는 5000만 원 이하의 벌금을 선고받을 수 있다. 또 6월 3일 선거일 전 90일까지(3월 4일) 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·게시하는 경우 해당 정보가 AI로 만든 가상 정보라는 사실을 명확히 표시해야 한다. 이를 위반하면 1000만 원 이하의 과태료가 부과된다.
이에 따라 울산 남구 선관위는 A 씨에 대해 고발과 별도로 AI 생성물 표시 의무 위반에 따른 과태료 500만 원도 부과했다. 중앙선관위는 “지방선거를 앞두고 위법한 딥페이크 영상 등의 확산을 차단하기 위해 ‘딥페이크등 허위사실공표·비방 특별대응팀’을 운영하고 있다”며 “앞으로도 유권자의 올바른 판단을 저해하고 선거의 공정성을 훼손하는 딥페이크영상등 유포자에 대해 강력 대응할 방침”이라고 밝혔다.
최재호 기자 cjh1225@donga.com