信頼できない「ＡＩ引用論文」 ＡＩ学会で４９７本を一括排除

今月１１日までソウル市江南区（カンナムク）のＣＯＥＸで開催されている世界３大人工知能（ＡＩ）学会の一つ「国際機械学習会議（ＩＣＭＬ）２０２６」で、約５００本の論文が一括して採択取り消しとなる事態が起きた。

発端はほかでもないＡＩの活用だった。ＩＣＭＬは論文投稿者同士が互いの論文を査読する方式を採用しているが、その査読過程で学会が禁止しているＡＩ利用の形跡が見つかった。学会は規則に違反してＡＩを利用した会員の論文４９７本を、査読と発表の対象からすべて除外した。

８日、科学界によると、最近では論文テーマの選定や執筆、査読など全過程でＡＩが日常的に利用されるようになり、ＡＩの信頼性を巡る問題がさらに浮き彫りになっている。事実と異なる回答を生成する「ＡＩハルシネーション（幻覚）」現象が存在する中、ＡＩ利用が日常化したことで、科学者同士でさえ互いの論文や査読結果を１００％信用できない状況が起こっているという。

生成ＡＩの登場から約３年で、論文に「架空の参考文献」を用いた事例が１０倍に増えたとの研究結果もある。今年５月に公表された米コロンビア大学の研究によると、今年最初の７週間に医学データベース「ＰｕｂＭｅｄ」に掲載された論文２７７本のうち１本は、この世に存在しない架空の論文を引用していた。２０２３年には２８２８本に１本程度だったが、この３年間で１０倍以上に増えた。

本紙が韓国科学技術翰林（ハンリム）院と共同で実施したアンケートでは、国内の科学者７５６人のうち約６０％が、信頼性への懸念からＡＩの導入をためらっていると答えた。ＡＩ安全研究所の金明柱（キム・ミョンジュ）所長は、「ＡＩによる論文中の虚偽情報を見抜くための取り組みと議論が求められる時期だ」と指摘した。


チェ・ジウォン記者　ハン・チェヨン記者 jwchoi@donga.com