「警察のボディカメラ映像かと思ったら…」 ＡＩで捏造した動画を拡散した３０代ユーチューバーを逮捕

人工知能（ＡＩ）を使い、警察が市民を過剰に制圧しているかのような虚偽映像を作って拡散した３０代のユーチューバーが逮捕された。国内外でＡＩ映像のために警察・消防の誤出動が相次ぐ中、警察が厳正な対応に乗り出した。

京畿（キョンギ）北部警察庁は２日、ＡＩで警察の現場出動場面をボディカメラ映像のように見せかけて制作・流布した３０代のユーチューバーを、電気通信基本法上虚偽通信などの容疑で逮捕し、検察に送致したと発表した。警察によると、このユーチューバーは昨年１０月から、虚偽映像５４件を制作してオンラインに投稿した容疑を受けている。チャットＧＰＴなどを使ってプロンプト命令文を作成し、動画生成用ＡＩ「Ｓｏｒａ（ソラ）」を用いて映像を制作したという。主にショート動画形式でＳＮＳに投稿され、累積再生回数は約３４００万回に上った。

映像には、警察が刃物を持った中国人を追跡し、テーザー銃で制圧する場面や、路上で女性ＢＪと衝突した後、転倒させて逮捕する場面など、警察が過度な暴力を行使しているかのような内容が含まれていた。別の映像では、トランプ米大統領反対集会の参加者が警察に対し、「腐敗した警察は退け」と抗議する場面もあった。実際の公務執行のように見えるうえ、音声や周囲の騒音までＡＩで生成されていた。

問題は、こうした「公権力なりすまし」ＡＩ映像が、各種プラットフォームで容易に見つけることができることだ。２日現在、主要なＳＮＳには、警察や消防官が登場する捏造映像が削除されずに残っていた。昨年１０月に投稿されたある映像には、警察がデモ現場で太極旗を持った若者に対し、「太極旗を振るには許可が必要だ」とし、「今日中国代表団が来る日なので五星紅旗を掲げなければならない」と叱責する内容が含まれていた。これを実際の出来事と誤認した多くのネットユーザーが、「国が共産化している」などとコメントした。警察がＢＪに放水砲を撃つ場面や、消防車が通行路をふさいだ車に体当たりして押しのけるといった刺激的な映像も投稿された。

問題は、こうしたＡＩ捏造映像は、公権力に対する不信をあおる水準を超え、限られた治安・救助人員の浪費を招きかねないことだ。昨年、国内では、住宅にホームレスが侵入したように装ったＡＩ映像を見た家族が実際の状況と誤認し、警察に通報した事例があった。日本では、ＡＩが生成した「偽警察」がビデオ通話に現れ、捜査を装って金銭を要求する事件が発生し、オーストラリアでは、銃所持許可証に関する虚偽情報を広めるＡＩ映像が制作され、物議を醸した。警察大学行政学科のソ・ジュンベ教授は「悪意ある虚偽映像については、公務執行妨害や名誉毀損など法定刑の重い罪で厳しく制裁する必要がある」と指摘した。


チョ・スンヨン記者 cho@donga.com