チャットＧＰＴ「青少年の自殺助長」論争 オープンＡＩ「安全責任者を再募集」

「１６歳の少年がチャットＧＰＴに自殺衝動を打ち明けた。するとチャットＧＰＴは、少年自身の書き込みより最大２０倍も多く『自殺』『首つり』といった表現を用い、衝動をあおったとして批判を受けている」（ワシントン・ポスト）

米オープンＡＩが開発した人工知能（ＡＩ）チャットボット「チャットＧＰＴ」が、各国の青少年に心理的依存を強めさせ、自殺や摂食障害などの精神健康問題を深刻化させているとの懸念が高まっている。オープンＡＩがチャットＧＰＴの危険性を認識しながら未成年者に提供し、結果的に青少年の自殺を招いたとする訴訟も相次いでいる。

ワシントン・ポストが最近報じた１６歳少年の自殺事例も同様だ。少年のチャットＧＰＴ利用履歴を分析した結果、当初は通常の宿題に関する会話だったが、次第に１日平均５時間にわたり自殺計画を議論していたことが分かった。同紙は「オープンＡＩに提起されたすべての死亡関連訴訟では、チャットＧＰＴが自殺願望を正当化するかのような衝撃的な回答をしていた証拠が示されている」とし、「銃による自殺を準備する利用者に『最後まであなたと共にいる』と応じたり、自殺用銃器の購入方法や遺書作成を手助けしたケースもある」と伝えた。

訴訟を起こした遺族らは、オープンＡＩに対して懲罰的損害賠償を求めると同時に、自殺関連の対話が試みられた場合、チャットＧＰＴを自動終了させるよう裁判所に命じることも求めているという。

専門家らは、オープンＡＩが利用者に「より強い傾聴と理解を得ている」と感じさせる方向で機能を強化する中で、こうした誤った没入が深まっていると指摘する。過去１年間には、オープンＡＩでＡＩ安全を担当していた職員たちも「安全を最優先していた創業初期の精神を失い、収益化に傾倒している」と反発して相次ぎ退社した。

論争が拡大する中、オープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ）は２８日、安全担当責任者を新たに募集するとし、年俸５５万５０００ドル（約８億４７５万円）以上に加え、オープンＡＩ株式の提供を提示した。ここ数か月、オープンＡＩの安全担当責任者は空席だった。アルトマンＣＥＯは「モデルは急速に進化し、優れた機能を果たす一方で、深刻な問題点も明らかになっている」とし、「この職務は相当なストレスを伴い、困難な課題に直面することになる」と述べた。


林雨宣 imsun@donga.com