今月初め、ソウル市内のある消防署に「商店の通路に積まれた物品が避難経路をふさいでいる」という苦情が寄せられた。担当の消防士が「容易に移動できる物であり、避難経路にも余裕があるため、取り締まりの例外に該当する」と案内すると、申立人は「人工知能（ＡＩ）に聞いたところ、処罰の対象に当たると言われた」と主張して食い下がった。申立人が根拠としたのは、ＡＩが２０２２年の改正前の法令をもとに提示した「幻覚（ハルシネーション・誤り）」の回答だった。この消防士は結局、残業までして関連規定を一つ一つ確認し、申立人に説明・証明しなければならなかった。
最近、法律や政策など専門分野でチャットＧＰＴなど生成ＡＩが示した誤った回答をうのみにした苦情が相次ぎ、こうした公共現場の職員たちが対応に苦慮している。ＡＩのハルシネーションや学習データの限界を認識しないまま、誤情報を根拠に無理な主張を展開するケースが増えているためだ。法律は細かな条件によって適用が大きく異なる。韓国研究財団傘下の情報通信企画評価院によると、主要ＡＩモデルが法律分野の回答でハルシネーションをハルシネーションとして検知する割合は６４％にとどまった。しかし、苦情申立人がＡＩのもっともらしい誤答を絶対的な基準とみなすことで、これを収拾する実務担当者の負担ばかりが増している状況だ。
専門家らは、ＡＩへの盲目的な信頼が行政の無駄につながらないよう対策が必要だと指摘している。培材（ぺジェ）大学行政学科の崔鎬澤（チェ・ホテク）教授は「公共機関レベルで、ＡＩ発の虚偽情報に基づく苦情へ対応するための明確な実務マニュアルを整備すべきだ」と指摘した。
チョン・ソヨン記者 cero@donga.com
About Dong-A Ilbo