超強力「ＡＩハッカー」登場、政府も企業も急いで備えを

自らサイバー攻撃を設計し実行に移すことができる人工知能（ＡＩ）モデルが登場し、世界に緊張が広がっている。米アンソロピックが開発した「クロード・ミトス」で、これまで開発された中で最も強力なＡＩモデルに挙げられるという。当初は国防や金融システムのセキュリティ上の脆弱性を発見して改善する「ホワイトハッカー」として開発されたが、逆に戦争や犯罪に悪用された場合、大規模災害に匹敵する被害をもたらす恐れがある。

ミトスは外部ハッカーの侵入経路を予測し、自らテストを行った上でシステムの脆弱な部分を報告するエージェント型モデルだ。極めて高い性能を持ち、ＯＳやウェブブラウザなどのソフトウェアから数千件に及ぶ脆弱性を発見した。その中には数十年間見過ごされてきた欠陥も含まれていた。しかしこの過程の中で、システム全体を掌握する管理者権限の取得を試みて内部ネットワークを探索したり、自らの侵入痕跡を消去するなど、想定外の行動も確認されたという。

こうした強力な「ＡＩハッカー」がテロリストなど過激な勢力の手に渡る事態は想像するだけでも恐ろしい。韓国でも、北朝鮮がミトスを利用してサイバー攻撃を仕掛ければ、国家安全保障に重大な打撃を受けかねない。自律的に判断し行動するモデルであるため、人間の統制を完全に逸脱する可能性も排除できない。最初に目標を設定したハッキング犯罪者を摘発したとしても、ＡＩによる攻撃は止まらず拡大する恐れがある。

問題は、同様の自律型「ＡＩハッカー」が今後も次々に登場することだ。アンソロピックはリスク要因が大きいと判断し、ミトスの一般公開を当面見送っているが、事業化を無期限に延期するかは不透明だ。オープンＡＩやグーグルなどの競合企業も、今後６～１８カ月以内に同等の性能を持つモデルを出すだろうと専門家らは予想している。

ミトスの公開後、米国や英国、カナダなどは国家安全保障システムの点検に着手し、中央銀行や主要金融機関も対策づくりを進めている。韓国も国家レベルでＡＩセキュリティ能力の強化を急ぎ、国防や電力、金融、通信など基幹ネットワークを守る強固な防壁を築く必要がある。また犯罪勢力がこうしたサイバー兵器を入手できないよう、法制度の整備も急がなければならない。一瞬の油断が、政府や企業をＡＩ攻撃の格好の標的にしかねない。