米国防総省と手を組むシリコンバレー、恐るべきＡＩの「オッペンハイマー・モーメント」

「私たちは人工知能（ＡＩ）が人類に利益をもたらすことを望んでいるのであって、非人道的あるいは極めて有害な形で使われることは望んでいない」

グーグルの従業員約６００人は先月末、スンダー・ピチャイ最高経営責任者（ＣＥＯ）に対し、国防総省とのＡＩ協力を中止するよう求める公開書簡を送った。自社のＡＩモデル「ジェミニ」が軍事・監視目的に活用される可能性への懸念からだったが、会社は方針を変えなかった。グーグルは結局、米国防総省の機密業務環境で自社ＡＩを活用できるようにすることで合意した。

８年前は選択は違っていた。２０１８年にもグーグルは、米国防総省のＡＩドローン映像分析事業「プロジェクト・メイブン」を巡り、従業員の反発に直面した。当時、数千人の従業員が「ＡＩを戦争に利用してはならない」と抗議し、最終的にグーグルは契約更新を断念した。

かつて軍事プロジェクトへの参加を撤回した企業が、今では国家安全保障体系の構築に直接乗り出しているわけだ。変化はグーグルだけではない。オープンＡＩ、アマゾン・ウェブ・サービス、パランティアなどのＡＩ企業も、米国防総省との協力を急速に拡大している。技術以上に「価値」を語り、「人類に有益なＡＩ」を強調していたシリコンバレーの理想主義は、次第に色あせている。生産性と革新の象徴と見なされていたＡＩは、今や国家競争力と軍事力を左右する核心インフラへと変わりつつある。

こうしたシリコンバレーの「変貌」の背景として、一部では中国とのＡＩ覇権競争が挙げられている。中国がＡＩを国家戦略産業として強力に推進する中、「ディープシーク」のような低コスト・高性能モデルが登場し、ビッグテックも衝撃を受けたという。生成ＡＩが単なる生産性向上ツールを超え、国家の軍事・情報優位を左右する戦略技術として認識され始めたということだ。ウクライナや中東で戦争が現実化したことも、これら企業の認識変化に拍車をかけたとみられる。パランティアのアレックス・カープＣＥＯは「米海兵隊員がより優れた小銃を望むなら、われわれはそれを作らなければならない。ソフトウェアも同じだ」と述べ、技術企業が国家と距離を置く時代は終わったことがうかがえる。

「勝者総取り」の市場になると予想されるＡＩ市場の無限競争も、企業から倫理的ためらいを奪った要因だ。「われわれは果たしてこれをやるべきなのか」という問いは、今や「競争を生き残るためには仕方がない」という現実論に押し流されている。かつてシリコンバレーでタブー視されていた軍との密接な関係は、今では「愛国」や「生存戦略」として正当化されている。

だが、こうした流れを見つめると不安も押し寄せる。ＡＩ企業は「問題はＡＩの武器化そのものではなく、それを誰がどう使うかだ」と言う。しかし、ＡＩが人間の統制下にのみとどまると断言できるだろうか。急速に国家や軍事体制へ組み込まれつつあるＡＩが、どのような戦場と現実を生み出すのか、私たちはまだ確信できていない。私たちはＡＩの発展速度には驚嘆してきたが、その技術がどこへ向かっているのかという問いには、十分答えてこなかった。

米国の原爆開発計画「マンハッタン計画」を率いた物理学者ロバート・オッペンハイマーは、核兵器の破壊力を確認した後、深い恐怖と後悔にとらわれた。いわゆる「オッペンハイマー・モーメント」だ。ＡＩの「オッペンハイマー・モーメント」も、もしかするとすでに始まっているのかもしれない。