民主主義を揺るがすＡＩ発の虚偽情報、強力な予防装置を準備しなければ

来年の韓国の総選挙や米国の大統領選挙など国内外の主要選挙を控え、人工知能（ＡＩ）技術を悪用した虚偽情報が氾濫する可能性が懸念される。映像画像や音声などを合成して作成する「ディープフェイク」技術がＡＩとともに急速に進化し、これを選挙に悪用しようとする試みも増えるということだ。２０２０年の米大統領選挙まで提起されなかったＡＩの政治的脅威で、政界に非常事態が発生している。

日々進化する生成型ＡＩは、非専門家でも商品化された一般プログラムを利用して簡単に偽のコンテンツを作ることができるレベルにまで来ている。東亜（トンア）日報が専門家と共にこれを試した結果、ニュース番組のアンカーの声の虚偽のコメントを作るのにたった１０秒、映像の背景イメージを変えるのに１分しかかからなかった。技術的な限界が早い時間内に新しいバージョンで補完され、真偽の判別が極めて難しくなるのも問題だ。

これを選挙に活用すれば、選挙候補の誤った公約の演説やインタビューを瞬時に作り出すことができる。ライバル候補の声を作って虚偽のメッセージをＡＲＳで発信し、選挙間際に候補辞退会見をするようにニュースを捏造する方法もある。有名人が特定の候補を支持しているように装い、政治広告や寄付金集めに使用することも可能だ。米国など海外ですでに問題になっている事例だ。最近、ペンタゴン爆発の捏造写真で見たように、安保不安を煽ることで投票者の心を揺さぶる試みも増えると予想される。

来年４月に総選挙を行う韓国も例外ではない。進歩対保守、既成世代と若者世代、ジェンダー、貧富などで分断された社会の対立を利用して刺激的な虚偽情報を広めようとする勢力がＡＩを利用する可能性が懸念される。ただでさえ、刺激的な主張を前面に押し出したファンダム政治の弊害に悩まされているのが韓国の政界だ。ＳＮＳを通じたコンテンツの拡散速度もどの国よりも速い。有権者別に精巧に調整された虚偽情報が世論を撹乱し、選挙結果を歪め、民主主義を揺るがす結果にまでつながる危険性がある。

このような問題に適切に対応するには、選挙日から少なくとも１年６ヵ月前には対応に乗り出すべきだと専門家は指摘する。欧州連合（ＥＵ）の場合、「ＡＩ生成コンテンツ」の表示を義務づけるなど、副作用を防ぐためのＡＩ規制法を推進している。韓国は後れを取っているため、海外の動きを参考にしながらＡＩの政治的誤用を防ぎ、警戒心を高めるための制度的措置の準備を急がなければならない。意思表現の自由を越え、選挙に影響を与えようとする意図的な捏造、歪曲の試みには重い責任も問わなければならないだろう。