부천 BJ 체포 등 가짜 경찰 보디캠 영상 제작·유포한 30대 남성

자극적 소재 이용해 AI 영상 54개 제작…투자리딩 사기 혐의도
공권력에 대한 국민적 신뢰 훼손 우려…경찰, 피의자 구속 수사

30대 남성 A 씨가 자신의 유튜브 채널에 올린 허위영상물.(경기북부경찰청 제공. 재판매 및 DB 금지)/뉴스1

인공지능(AI)으로 생성된 가짜 경찰 보디캠 영상을 실제 상황인 것처럼 속여 SNS에 유포한 30대 남성이 경찰에 붙잡혔다.

경기북부경찰청 사이버범죄수사1대는 정보통신망법 위반, 자본시장법 위반 등 혐의로 A 씨를 구속했다고 2일 밝혔다.

A 씨는 지난해 10월부터 약 2달간 자신의 유튜브 채널 등에 허위 영상물 54개를 올려 가짜 정보를 퍼뜨린 혐의를 받는다.

그는 AI를 이용해 경찰공무원의 112 신고 현장 출동 장면을 보디캠 시점으로 촬영한 것처럼 영상을 제작했다.

챗GPT로 시나리오를 작성한 뒤 오픈AI 소라로 영상물을 만들고 이를 유튜브, 인스타그램, 틱톡 등에 유포했다.

영상물은 ‘부천역 인터넷 BJ 체포’ ‘아파트 복도 흡연 신고 출동’ ‘중국인 테이저건 체포’ ‘욕설이 가득했던 연쇄살인범 조X순 출소현장’ 등 혐오를 부추기는 자극적 소재가 주를 이뤘다.

SNS에 유포된 영상물들의 총 조회 수와 구독자 수는 각각 3480만여 회, 2만 3700여 명에 달했다.

30대 남성 A 씨가 자신의 유튜브 채널에 올린 허위영상물.(경기북부경찰청 제공. 재판매 및 DB 금지)/뉴스1

A 씨는 ‘경찰의 시선으로 사건 현장을 본다. 실화를 기반으로 한 AI 보디캠 영상’이라고 채널을 소개했다.

허위 영상물을 본 일부 시청자는 실제 상황으로 오인하기도 했다.

경찰은 해당 영상물이 공권력에 대한 국민적 신뢰를 훼손한다고 보고 수사에 착수, A 씨를 특정해 검거했다.

이후 압수물을 분석하는 과정에서 A 씨가 해외 유료 구독형 SNS 채널을 운영하며 AI 음란물을 제작하고 판매한 범죄 사실을 추가로 밝혀냈다.

또 무허가 사설 선물거래 HTS(Home Trading System) 및 투자리딩방 운영에 가담하며 3000만 원 상당의 부당이득을 취한 사실도 확인해 혐의를 추가했다.

경찰 관계자는 “피의자가 다른 허위 영상물을 제작·유포하면 더 큰 추가 피해가 발생할 수 있기 때문에 구속 수사를 결정했다”며 “허위정보 관련 범죄 근절을 위해 적극적인 단속에 나서겠다”고 말했다.

(의정부=뉴스1)