オープンＡＩ、カナダ銃乱射の兆候を把握も通報せず 米紙報道

人工知能（ＡＩ）「チャットＧＰＴ」が１０日（現地時間）、カナダ・ブリティッシュコロンビア州の山間の町タンブラーリッジの学校で発生した銃乱射事件の兆候を８か月前に把握していたにもかかわらず、オープンＡＩが当局に通報していなかったという。

２１日付のウォール・ストリート・ジャーナルによると、オープンＡＩは事件発生の８か月前、容疑者ジェシー・バン・ルートセラのチャットＧＰＴアカウントから危険信号を検知し、アカウントを停止したが、カナダの司法当局には通報しなかったという。

報道によれる、ルートセラは昨年６月ごろ、数日にわたりチャットＧＰＴと犯行シナリオを議論した。こうした状況はチャットＧＰＴの自動フィルタリングシステムにより「危険兆候」として検知された。オープンＡＩでは職員１０人余りが対応策を協議し、一部は潜在的な暴力性を司法当局に知らせるべきだと主張したが、経営陣は通報しない判断を下したとされる。

これに対しオープンＡＩは、「ルートセラのチャットＧＰＴアカウントを停止した」としつつ、「利用者の活動が他人に重大な危害を加える可能性が高く、かつ危険が差し迫っている場合にのみ司法当局へ通報すべきだが、本件は基準に該当しないと判断した」と説明した。その上で、「利用者が現実で危害を加える行為に及ばないようＡＩモデルを訓練している」とし、「誰かに危害を加えようとする兆候があれば担当者に通知し、危険が差し迫っていると判断される場合は司法機関に通報する」と明らかにした。

ルートセラは犯行に先立ち、オンラインゲームプラットフォーム「Roblox」でも銃撃事件を模擬したビデオゲームを制作したほか、銃器の写真などをソーシャルメディア（ＳＮＳ）に投稿していたことが分かっている。


パク・ジョンミン記者 blick@donga.com