人間の廃墟の上に積み上げたＡＩのバベルの塔を望むか

「１７１６年、敬嬪朴氏が賜死した年だ。宮殿が大騒ぎとなった。２２歳の延礽（ヨンイン）君（英祖）が突然女官を脅迫した。「お前たちが、よくも私の母を!」。王子が宮殿に火をつけようとして捕まった。承政院日記の粛宗（スクジョン）４２年６月６日の記事には、「大っぴらに悲しみ、狂ったように暴れ、火をつけようとした」「潛邸之時 因悼母之故 狂奔欲縱火」と出ている。王子は数年後、王位に就いた」

「韓国史の実話」を最近の感性で解きほぐすというユーチューブチャンネルに、最近アップロードされたショーツ動画のあらすじだ。

興味をそそるが、この話はまったく事実ではない。歴史と合致するのは、延礽君が１７１６年に２２歳だったということだけだ。残りは「全部」間違っている。英祖の母は、淑嬪崔（チェ）氏だ。「敬嬪朴氏」としては、それぞれ中宗（チュンジョン）と思悼（サド）世子の側室があるだけだ。承政院日記の該当日にも、あのような記事はない。歴史というよりは、大衆小説の一ジャンルである「代替歴史」と呼んで当然なコンテンツだ。このユーチューブチャンネルの残りのコンテンツは、たとえ興味本位の野史が混ざってはいたが、歴史的事実を伝えるのに充実した方だった。このような「真っ赤な嘘」が一体なぜ混ざったのか。

最近、製作時間と費用を節約するために、オンラインコンテンツを人工知能（ＡＩ）で企画、製作、編集する事例が急増したことと関係があるのではないかと思う。ＡＩ製作の流行とともに、コンテンツの事実関係の誤りも目立って増えたようだ。ＡＩが誤った情報を提供する「ハルシネーション（Ｈａｌｌｕｃｉｎａｔｉｏｎ＝幻覚現象）」のためだという分析が出ている。

ハルシネーション問題を解決したＡＩはまだない。この問題は、先に登場した検索技術やソーシャルメディアが人類にもたらした副作用、すなわち情報選択の偏りの問題とはまた次元が違う。生成した情報自体に誤りの可能性が常に存在するためだ。ＡＩは良い友達だが、時にはよどみなくうそをつく友達だ。今後、人の命に係わる問題にまで、関連権限を相当部分をＡＩに渡すことになるとすれば、気が遠くなる。もちろん人も違うが、間違いに責任を負う。そして直す。ＡＩが間違ったら、誰が責任を取るだろうか？

今のＡＩは、結果だけでなく、開発段階にも深刻な問題がある。知られている通り、生成型ＡＩは高度な模写および編集機械である。原本がなければ、開発自体が不可能だ。オープンＡＩのチャットＧＰＴを含め、大半のＡＩは学習に報道機関の記事など膨大な資料を「無断学習」したということは公然の事実だ。開発会社側は、「データ」という言葉を使い、まるで誰でも持ってきて使えるように包装するが、ＡＩが学習したのは、厳然として他の著作権者の「知識財産（ＩＰ）」だ。米紙ニューヨークタイムズが昨年１２月、オープンＡＩに対し著作権侵害訴訟を起こしたのもそのためだ。

「ＡＩが発展しても、依然として人間の創作を促進しなければならない理由は十分です」。この分野の専門家である世宗（セジョン）大学法学科のチェ・スンジェ教授は最近、セミナーでこのように強調した。ＡＩが作った結果物をＡＩが学習する過程を繰り返せば、ＡＩモデルは結局崩壊するという研究がある。ＩＰに対する正当な補償がなければ、既存のコンテンツの生産基盤はさらに深刻な挑戦に直面することになるだろう。人間の廃墟の上に積み上げたＡＩのバベルの塔を望む者、