动摇民主主义的人工智能虚假信息……要准备强有力的预防装置

面对明年韩国议会选举和美国大选等国内外主要选举，有人担心恶意利用人工智能技术的虚假信息泛滥。随着合成影像、图像、语音等进行操作的“深度造假”技术与人工智能一起迅速进化，试图将其恶意利用到选举中的尝试也会增加。由于直到2020年美国大选为止都从未提出过的人工智能的政治威胁，政界进入了紧急状态。

日新月异的生成型人工智能已经达到了非专家也可以利用商品化的普通程序轻松制作假内容的水平。《东亚日报》和专家一起尝试的结果是，按照广播新闻主播的声音制作虚假的台词仅用了10秒，而改变影像的背景形象只用了1分钟。随着技术局限在短时间内完善成新版本，辨别真假变得极度困难也是个问题。

如果将此利用在选举中，就能瞬间制造出选举候选人错误的公约演说或采访。也有捏造对方候选人的声音，用自动语音答复系统发送虚假信息，在选举临近时像举行候选人辞职记者招待会一样捏造新闻的方式。也可以假装名人支持特定候选人，用于政治广告和募集捐款。这些事例在美国等海外已经成为了问题。从最近五角大楼爆炸照片造假中可以看出，通过煽动安保不安来动摇选民的意向的企图也会增加。

明年4月举行议会选举的韩国也不例外。有人担心，趁着进步对保守、老一辈和青年一代、性别、贫富等分裂的社会矛盾，试图传播刺激性虚假信息的势力可能利用人工智能。即使不是这样，韩国政界也因提出刺激性主张的刚性粉丝政治的弊端而饱受煎熬。通过社交媒体传播内容的速度也比任何国家都快。针对选民的精巧的虚假信息扰乱舆论，歪曲选举结果，甚至有可能引发动摇民主主义的结果。

专家指出，要想正确应对这些问题，至少要在选举日开始的1年6个月之前采取应对措施。欧盟正在推进限制人工智能法，要求义务化标记“人工智能生成内容”，以防止副作用。既然为时已晚，韩国也应该参考海外动向，尽快制定防止人工智能被滥用于政治、提高警惕心的制度性措施。对于超越表达意见的自由、试图影响选举的故意捏造歪曲行为，应该追究高强度的责任。