性的ディープフェイクの８５％、接続遮断されず

韓国政府が生成ＡＩ（人工知能）で作成されたわいせつ画像「性的ディープフェイク」を摘発し、接続遮断措置を求めたサイトのうち、８５％以上が依然として閲覧可能な状態にあることが明らかになった。

５日に監査院が公表した「人工知能対応の実態」に関する監査報告書によると、放送メディア通信審議委員会（放審委）は、被害者からの通報や捜査機関からの送致を基に、性的ディープフェイクが掲載されたサイトを特定し、９社の通信事業者に接続遮断を要請している。各通信事業者は、放審委から受け取った遮断対象のインターネットアドレス（ＵＲＬ）を自社の遮断システムに登録し、放審委が事後的に履行状況を点検する仕組みだ。

しかし、２０２４年に放審委が接続遮断を要請した性的ディープフェイク掲載サイト約２万３千件のうち、監査院が１千件を抽出して点検した結果、８５４件（８５.４％）で実際に接続可能であることが確認された。このうち１７３件は、遮断対象ＵＲＬが記載された電子メールが迷惑メールとして処理されたり、サーバーエラーなどで送信されなかったため、通信事業者の遮断システムに登録されていなかった。

監査院はまた、放審委が２４年６月から２５年５月までの通信事業者点検過程で、７２５０件の未遮断サイトを把握していながら、追加の遮断要請を行わず放置するなど、管理・監督が不十分だったと指摘した。遮断対象サイトの相当数は、海外サーバーを経由した迂回接続によって遮断が無力化されていたことも明らかになった。


イ・ユンテ記者 oldsport@donga.com