動搖民主主義的人工智能虛假信息……要準備強有力的預防裝置

面對明年韓國議會選舉和美國大選等國內外主要選舉，有人擔心惡意利用人工智能技術的虛假信息泛濫。隨著合成影像、圖像、語音等進行操作的“深度造假”技術與人工智能壹起迅速進化，試圖將其惡意利用到選舉中的嘗試也會增加。由於直到2020年美國大選為止都從未提出過的人工智能的政治威脅，政界進入了緊急狀態。

日新月異的生成型人工智能已經達到了非專家也可以利用商品化的普通程序輕松制作假內容的水平。《東亞日報》和專家壹起嘗試的結果是，按照廣播新聞主播的聲音制作虛假的臺詞僅用了10秒，而改變影像的背景形象只用了1分鐘。隨著技術局限在短時間內完善成新版本，辨別真假變得極度困難也是個問題。

如果將此利用在選舉中，就能瞬間制造出選舉候選人錯誤的公約演說或采訪。也有捏造對方候選人的聲音，用自動語音答復系統發送虛假信息，在選舉臨近時像舉行候選人辭職記者招待會壹樣捏造新聞的方式。也可以假裝名人支持特定候選人，用於政治廣告和募集捐款。這些事例在美國等海外已經成為了問題。從最近五角大樓爆炸照片造假中可以看出，通過煽動安保不安來動搖選民的意向的企圖也會增加。

明年4月舉行議會選舉的韓國也不例外。有人擔心，趁著進步對保守、老壹輩和青年壹代、性別、貧富等分裂的社會矛盾，試圖傳播刺激性虛假信息的勢力可能利用人工智能。即使不是這樣，韓國政界也因提出刺激性主張的剛性粉絲政治的弊端而飽受煎熬。通過社交媒體傳播內容的速度也比任何國家都快。針對選民的精巧的虛假信息擾亂輿論，歪曲選舉結果，甚至有可能引發動搖民主主義的結果。

專家指出，要想正確應對這些問題，至少要在選舉日開始的1年6個月之前采取應對措施。歐盟正在推進限制人工智能法，要求義務化標記“人工智能生成內容”，以防止副作用。既然為時已晚，韓國也應該參考海外動向，盡快制定防止人工智能被濫用於政治、提高警惕心的制度性措施。對於超越表達意見的自由、試圖影響選舉的故意捏造歪曲行為，應該追究高強度的責任。