‘잠실 시위 현장 중국 경찰’ AI로 허위 영상 제작·유포 40대 유튜버

부산경찰청 전경 ⓒ 뉴스1

서울 잠실 시위 현장에 중국 국적 경찰이 투입됐거나 잠실경기장에서 방화 테러가 발생했다는 허위 영상을 제작하고 유포한 유튜버가 검찰에 넘겨졌다.

부산경찰청 사이버수사과는 지난 2일 전기통신기본법 위반(허위 통신) 혐의로 유튜버 A 씨(40대·남)를 검거해 불구속 송치했다고 15일 밝혔다.

A 씨는 구독자 8만 7000여 명의 유튜브 채널을 운영하며 지난 3월 28일부터 생성형 인공지능(AI)을 이용해 허위 영상을 제작하고 유튜브 채널에 게시한 혐의를 받는다.

A 씨가 유튜브 채널에 게시한 허위 영상은 총 16개로 ‘90만 배럴의 비축유가 북한에 전달됐다’는 내용을 비롯해 ‘미국 민간군사기업 여의도 상륙’, ‘부정선거 관련 형안부 전직 고위직 체포 암살 작전이 이뤄진다’ 등 국가안보와 선거에 대한 내용인 것으로 조사됐다.

A 씨는 수사를 받는 중에도 ‘잠실 시위 현장 경찰관이 중국 국적이다’, ‘잠실 핸드볼경기장 지하 용접 방화 테러 기도’ 등 부정선거 논란 등과 관련한 허위 영상을 추가로 게시한 것으로 드러났다.

조사 결과 A 씨는 생성형 AI 프로그램에 특정 결론을 유도하는 질문을 반복 입력해 원하는 답변을 받은 뒤 이를 바탕으로 영상과 방송 대본을 제작한 것으로 확인됐다.

경찰은 A 씨가 후원금을 받을 목적으로 허위 영상을 지속해서 유포한 것으로 보고 불구속 송치했으며 유튜브 수익금 약 1000만 원에 대해서는 기소 전 추징보전을 신청했다.

경찰 관계자는 “수익을 목적으로 생성형 AI를 이용해 허위 정보를 사실인 것처럼 유포하는 행위가 사회적 혼란을 초래하고 있다”며 “이 같은 범죄에 대해 엄정 대응하겠다”고 말했다.

(부산=뉴스1)