オープンＡＩ「チャットＧＰＴで虚偽履歴書を作成した北朝鮮アカウントを削除」

オープンＡＩが、チャットＧＰＴを悪用して虚偽の履歴書を作成した北朝鮮関連アカウントを摘発し、削除したと明らかにした。２１日（現地時間）、オープンＡＩが発表した公式報告書によると、北朝鮮のアカウントはチャットＧＰＴを利用して虚偽の履歴書とオンラインプロフィールを作成し、採用プラットフォームに載せて欧米企業に不正就職しようとした。北朝鮮は、欧米の先端技術を盗んだり、違法核兵器プログラムのための資金を確保したりするために、生成型ＡＩを活用することが知られている。ただし、オープンＡＩは削除した北朝鮮関連アカウントの数や削除の時期に関する具体的な内容は公開していない。

オープンＡＩは、北朝鮮のアカウント以外にも中国と関連したアカウントを削除したと明らかにした。一部の中国アカウントは、チャットＧＰＴを活用して米国を誹謗するスペイン語ニュース記事を作成したことが確認された。これらの記事は、中国企業の名義で南米地域の主要ニュースメディアに掲載された。また、中国のあるセキュリティ組織が、反中国のＳＮＳ投稿を監視するためのＡＩベースの監視ツールをチャットＧＰＴを活用して開発したことが分かった。Ｘ（旧ツイッター）、フェイスブック、ユーチューブ、インスタグラムなどで中国の政治・社会テーマに関する投稿やコメントを収集・分析し、中国当局に提供するのが目的だったという。オープンＡＩは、これを「ピアレビュー（Peer Review）」と呼び、「組織が監視ツールの一部のコードをデバッグ（エラー修正）する過程でチャットＧＰＴを使用したことを確認した」と説明した。

オープンＡＩのベン・ニモ上級研究員は、「ＡＩベースの監視ツールが発見されたのは今回が初めて」とし、「悪意のある行為者がＡＩモデルを使用する際に残す痕跡を追跡することで、彼らのインターネット活動を把握し、悪意のある行為を検出することができる」と語った。


チャン・ウンジ記者 jej@donga.com