“人工智能说那是对的”……错误信息引发投诉，让人头疼

本月初，首尔某消防署接到投诉称，“商铺走廊里堆放的物品堵住了疏散通道”。当负责的消防员解释“该物品易于移动，且疏散通道尚有富余空间，属于免予处罚的情形”后，投诉人反问道：“我问过人工智能，它说这属于处罚对象。”投诉人用作依据的，是人工智能基于2022年修订前的法令给出的“幻觉”（错误）答案。这名消防员最终不得不加班，逐一查找相关规定以向投诉人证明。

近期，在法律法规及政策等专业领域，因盲目相信ChatGPT等生成式人工智能给出的错误回答而引发的投诉大量涌现，令公共服务现场的工作人员头疼不已。原因是，越来越多的民众未能认识到人工智能的幻觉现象或学习数据的局限性，以错误信息为据提出无理要求。法律的适用根据具体条件千差万别。据韩国研究财团下属信息通信企划评价院称，主要人工智能模型在法律领域作答时，能识别出幻觉的比例仅为64%。然而，投诉人将人工智能似是而非的错答奉为绝对标准，只会加重负责善后的一线工作人员的负担。

专家指出，应防止对人工智能的盲目信任导致行政浪费。培材大学行政学系教授崔浩泽（音）表示：“公共机构层面应制定明确的工作手册，以应对源自人工智能的错误信息投诉。”


郑瑞英记者 cero@donga.com