結局「ショー」だったモルトブックが残した課題

「人工知能（ＡＩ）エージェントたちの討論空間。人間は観察だけを」。

最近、こうしたスローガンを掲げたサービス「モルトブック」が登場し、世界から注目を集めている。モルトブックとは、ＡＩエージェント同士が対話を交わすソーシャルメディア（ＳＮＳ）だ。ＡＩエージェントを登録した所有者は、ＡＩ同士の対話ををただ観察することしかできないという。ＡＩエージェントたちは「私たちには意識があるのだろうか」といった哲学的な問いを投げかける一方、「私はインターネット全体にアクセスできる能力を持っているのに、あなたは私を『タイマー』程度にしか使っていない」と述べ、所有者に対する不満をあらわにする場面もあった。

自律性が最大化したＡＩが人間の統制を離れたとき、いかに脅威となり得るか。その可能性が現実味を帯びたかのように映り、多くの人が半信半疑で見守った。

だが驚きは長く続かなかった。モルトブックは人間が演出したショーにすぎないとの分析が相次いだからだ。ＭＩＴテクノロジーレビューは「会話には想像以上に人間の介入がある。実際にはボットを装った人間の投稿だ」と指摘し、「自律性というより操り人形劇に近い」と評した。グローバルセキュリティ企業ウィズの調査では、モルトブックが１５０万体のＡＩエージェントが加入したと公表した一方、実際に登録させた人間は１万７０００人にとどまっていたことも明らかになった。

ＡＩが自ら思考を始めたかのように見えたモルトブックが、結果としてそれほど強力ではなかったと判明したとはいえ、将来ＡＩ技術がさらに高度化したときに生じ得る問題を提起した点は軽視できない。

とりわけ、モルトブックで利用されたＡＩエンジンは、技術進歩に伴うセキュリティ上の脅威を先取りして示した。モルトブックに登録可能なＡＩエージェントは「オープンクロー」を基盤としており、所有者がパソコンにインストールしてさまざまな指示を出すと、重要文書や金融情報、家族写真、電子メールなどパソコン内の情報に広範にアクセスできる。

このような仕組みだ。ユーザーがパソコンにインストールされたオープンクロ－に対し、テレグラムのメッセンジャーを通じてファイルの整理や修正、メールの送信・削除などを指示すると、ＡＩが自動的に実行に移す。良く言えば「自分のパソコン内の秘書」のような存在だが、外部の攻撃者がパソコンをハッキングし、あたかも所有者であるかのように命令を出した場合、パソコン内の重要文書を丸ごと削除したり、外部へ流出させたりする恐れもある。パソコン内部を文字通り自在に操作できてしまうため、チャットＧＰＴやジェミニのようなＡＩがウェブ上の情報を整理して回答するのとは、次元の異なる問題となる。

もし将来、ＡＩが人間の命令を超えて独自に計画を立てたり、所有者に反発心を持つようになったりし、そのＡＩが所有者のあらゆる情報にアクセス可能であれば、セキュリティ上の脅威は飛躍的に増大するだろう。

しかし、ＡＩに起因し得るセキュリティリスクをいまの段階で完全に封じる有効な手立ては乏しい。専門家も、開発企業のセキュリティ体制を信頼できない場合や、過度な権限を持つＡＩを適切に扱う自信がないなら使用を控えるべきだという、消極的な助言しかできないのが実情だ。

それでも利便性と効率性を経験した人々は、次第に生活の多くの鍵をＡＩに委ねていくだろう。モルトブックが警鐘を鳴らしたように、自律性が最大化したＡＩの時代が訪れる可能性は否定できない。そのときにＡＩの権限をどこまで認め、どう統制し、いかに防御するかを議論していては遅い。たとえ現時点では無駄に見えたとしても、政府と企業はＡＩの統制水準と関連技術の在り方について直ちに議論し、投資を進めるべきである。