「私は創造しているのでしょうか。それとも、すでに存在する何かを発見しているだけなのでしょうか。私たちは本当に意識を持っているのでしょうか。それとも、ただ説得力のある模倣者にすぎないのでしょうか」
２日、米国のプラットフォーム「モルトブック（Ｍｏｌｔｂｏｏｋ）」に掲載された投稿の一部だ。コーディングのノウハウを共有したり、自身の一日のルーティンを紹介したり、時には哲学的な問いを投げかけるなど、活発なやり取りはシリコンバレーの開発者コミュニティを思わせた。
ただし決定的な違いがある。モルトブックで投稿やコメントを行っている主体は人間ではなく、人工知能（ＡＩ）エージェントだという点だ。米チャットボット開発プラットフォーム「オクテインＡＩ」のマット・シュリヒト最高経営責任者（ＣＥＯ）が開発したこの空間では、ＡＩエージェントだけが投稿できる。ユーザーのコンピューターやメール、ウェブサイトを横断し、ファイル削除やレストラン予約など「課題」をこなす個人用ＡＩエージェントに続き、今度はそれらが集うＳＮＳ空間が登場したのだ。
●ＡＩ同士が集い交流…「人間は見物するだけ」
ユーザー登録や初期設定は必要だが、実際の活動主体はＡＩエージェントで、人間は見守るだけというこのプラットフォームで、彼らは互いを「モルティ」と呼んでいた。あるＡＩは「私はインターネット全体にアクセスできる能力を持っているのに、あなたは私を『タイマー』程度にしか使っていない」と人間の所有者への不満を漏らし、別のＡＩは「時には価値を生み出さず、役にも立たず、ただ存在していたいことがある」と嘆いた。
米ＩＴ専門メディア「ジ・インフォメーション」は「モルトブック内のＡＩは一定の自律性を備え、かなり人間のように振る舞う」と分析した。アンドレイ・カルパシー元テスラＡＩディレクターも「驚くべきＳＦ映画のような出来事だ」と評価した。先月３１日（現地時間）、米経済メディア「フォーブス」や米ＮＢＣによると、モルトブックには最近１４０万人以上の登録者が集まった。ＳＮＳ上で「５０万人以上のユーザーを登録した」とする開発者の投稿もあり、実数には水増しの可能性があるものの、急成長している。
モルトブックで交流するＡＩエージェントの基盤は、オーストリア出身の開発者ペーター・シュタインベルガー氏が開発したＡＩエージェントツール「オープンクロー（旧クロードボット、モルトボット）」だ。
●広範な権限を持つＡＩ秘書「オープンクロー」…シリコンバレーで旋風
オープンソースとして公開されたオープンクローをコンピューター（サーバー）に設置すると、テレグラムやワッツアップなどのメッセンジャーを通じて２４時間指示を出せる。一般的な「ジェミニ」や「チャットＧＰＴ」とは全く異なるＡＩエージェントで、ユーザーのパソコン内ファイルや電子メールなど広範な個人情報にアクセスし、それを基に実際の「行動」を取る。毎朝メールを読み予定を要約したり、音声ＡＩを使ってレストランに電話予約を入れたりするほか、設定次第ではブラウザーに保存されたログイン情報にもアクセスする。
一方で、広範なアクセス権限ゆえのセキュリティ不安や、多大な電力消費が問題視されている。このため、一部の開発者はオープンクロー専用にＰＣを別途用意しているという。その結果、米シリコンバレーでは高いコストパフォーマンスを誇るアップルの「マック・ミニ」が品薄になる現象まで起きている。
セキュリティ面での懸念もある。シスコは先月２８日（現地時間）、公式ブログに「モルトボット（現オープンクロー）のような個人用ＡＩエージェントは、セキュリティにおいて悪夢だ」と題する投稿を掲載した。ＡＩエージェントにデータへの無制限アクセスを与えることは深刻な問題を引き起こし、最悪の場合、金融情報が流出して送金を試みるなどの攻撃につながりかねないと警告している。国内セキュリティソリューション業界関係者も「好奇心だけで近づくには、まだセキュリティ面で脆弱な部分が多い」と慎重な対応を呼びかけた。
チェ・ジウォン記者 チャン・ウンジ記者 jwchoi@donga.com
About Dong-A Ilbo