바디캠인 줄 알았는데 ‘AI 영상’…허위 영상 유포 30대 유튜버 구속

인공지능(AI)으로 경찰이 시민을 과잉 진압하는 것처럼 허위 영상을 만들어 퍼뜨린 30대 유튜버가 구속됐다. 국내외에서 AI 영상 때문에 경찰이나 소방이 오인 출동하는 사례 등이 발생하면서 경찰이 엄정 대응에 나선 것.

2일 경기북부경찰청은 AI로 경찰의 현장 출동 장면을 바디캠 촬영본처럼 보이도록 제작·유포한 30대 유튜버를 전기통신기본법상 허위 통신 등 혐의로 구속해 검찰에 송치했다고 밝혔다. 경찰에 따르면 이 유튜버는 지난해 10월부터 허위 영상 54건을 만들어 온라인에 게시한 혐의를 받는다. 그는 챗GPT 등을 활용해 프롬프트 명령어를 만들고, 영상 생성용 AI ‘소라(Sora)’를 이용해 영상을 제작해 온 것으로 조사됐다. 주로 숏폼 형태로 소셜 미디어에 영상을 올렸는데, 누적 조회수는 약 3400만 회에 달했다.

경찰이 흉기를 든 중국인 남성을 향해 테이저건을 발사하는 모습이 담긴 AI 허위 영상 캡처. 경기북부경찰청 제공

이 유튜버가 올린 영상에는 경찰이 흉기를 든 중국인을 뒤쫓다 테이저건으로 제압하는 장면, 거리에서 여성 BJ와 충돌한 뒤 넘어뜨려 체포하는 장면 등 경찰이 과도하게 폭력을 행사하는 모습이 포함됐다. 또 다른 영상에선 도널드 트럼프 미국 대통령 반대 집회 참가자가 경찰에게 “부패 경찰 물러나라”며 항의하는 장면도 담겼다. 경찰이 실제 공무를 집행하는 모습처럼 보이는 데다 음성과 주변 소음까지 AI로 만들었다.

문제는 이런 ‘공권력 사칭’ AI 영상을 각종 플랫폼에서 손쉽게 찾아볼 수 있다는 점이다. 2일 주요 소셜미디어에서는 경찰, 소방관이 등장하는 다른 조작 영상이 삭제되지 않은 채 방치돼 있었다. 지난해 10월 올라온 한 영상에는 경찰이 집회 현장에서 태극기를 든 청년에게 “태극기를 흔들려면 허가를 받아야 한다”며 “오늘은 중국 대표단이 오는 날이니 (중국 국기인) 오성홍기를 들어야 한다”며 꾸짖는 내용이 담겼다. 이를 실제로 착각한 다수의 누리꾼은 “나라가 공산화되고 있다” 등 댓글을 달기도 했다. 경찰이 BJ에게 물대포를 쏘거나 소방차가 통행로를 막은 차량을 들이받아 밀고 지나가는 자극적인 동영상도 올라왔다.

지난해 10월 인스타그램에서 경찰이 태극기를 든 청년에게 “오성홍기를 들어야 한다”고 꾸짖는 내용이 담긴 AI 허위 영상이 확산했다. 소셜 미디어 캡처

문제는 이러한 AI 조작 영상이 공권력에 대한 불신을 조장하는 수준을 넘어, 제한된 치안·구조 인력의 낭비를 초래할 수 있다는 점이다. 지난해 국내에선 집에 노숙인이 침입한 것처럼 꾸민 AI 영상을 본 가족이 실제 상황으로 오인해 경찰에 신고한 사례도 있었다. 일본에서는 AI가 생성한 ‘가짜 경찰’이 영상통화에 등장해 수사를 빙자하며 돈을 요구한 사건이 발생했고, 호주에서는 경찰이 총기 소지 허가증과 관련한 거짓 정보를 퍼뜨리는 AI 영상이 제작돼 논쟁이 일었다. 서준배 경찰대 행정학과 교수는 “악의적인 허위 영상에는 (전기통신기본법보다) 법정 형량이 큰 공무집행방해나 명예훼손 등으로 엄정히 제재할 필요가 있다”고 지적했다.

조승연 기자 cho@donga.com