本月初，首爾某消防署接到投訴稱，“商鋪走廊裏堆放的物品堵住了疏散通道”。當負責的消防員解釋“該物品易于移動，且疏散通道尚有富余空間，屬于免予處罰的情形”後，投訴人反問道：“我問過人工智能，它說這屬于處罰對象。”投訴人用作依據的，是人工智能基于2022年修訂前的法令給出的“幻覺”（錯誤）答案。這名消防員最終不得不加班，逐壹查找相關規定以向投訴人證明。
近期，在法律法規及政策等專業領域，因盲目相信ChatGPT等生成式人工智能給出的錯誤回答而引發的投訴大量湧現，令公共服務現場的工作人員頭疼不已。原因是，越來越多的民衆未能認識到人工智能的幻覺現象或學習數據的局限性，以錯誤信息爲據提出無理要求。法律的適用根據具體條件千差萬別。據韓國研究財團下屬信息通信企劃評價院稱，主要人工智能模型在法律領域作答時，能識別出幻覺的比例僅爲64%。然而，投訴人將人工智能似是而非的錯答奉爲絕對標准，只會加重負責善後的壹線工作人員的負擔。
專家指出，應防止對人工智能的盲目信任導致行政浪費。培材大學行政學系教授崔浩澤（音）表示：“公共機構層面應制定明確的工作手冊，以應對源自人工智能的錯誤信息投訴。”
鄭瑞英記者 cero@donga.com
About Dong-A Ilbo