利用人工智能制作并传播虚假视频的30多岁油管（Youtube）博主被拘留。随着国内外发生因人工智能视频而误派警察和消防等事件，警方开始采取严正的应对措施。
京畿北部警察厅2日表示，以《电气通信基本法》上虚假通信等嫌疑拘留了用人工智能制作并传播警察现场出动场面的30多岁油管博主，并移交检察机关。据警方透露，该油管博主涉嫌从去年10月起制作54个虚假视频，并在网上发布。据调查，他一直利用聊天GPT等制作提示语，利用人工智能视频生成软件“Sora”制作视频。该博主主要以短视频的形式在社交媒体上发布视频，累计点击率约为3400万次。
该油管博主上传的视频中，包括警察追赶拿着凶器的中国人时用电击枪制服的场面、在街上与女主播发生冲突后摔倒逮捕的场面等警察过度行使暴力的场面。在另一段视频中，还出现了反对美国总统特朗普的集会参加者向警方抗议“腐败警察下台”的场面。视频内容看似警察执行公务的样子，而且声音和周围的噪音也都是由人工智能生成。
问题是，在各种平台上可以轻易找到这种“假冒公权力”的人工智能影像。2日，在主要社交媒体上出现警察、消防员登场的其他操作视频，没有被删除，被放置不管。去年10月上传的一段视频中，警察在集会现场对手持太极旗的青年斥责道：“要想挥舞太极旗，必须得到许可。今天是中国代表团到来的日子，必须举起（中国国旗）五星红旗。”实际上，误以为真的多数网民还留言称“国家正在共产化”等。该博主还上传了警察向主播发射水枪或消防车撞上堵住通道的车辆后推行的刺激性视频。
问题是，这种人工智能造假视频不仅会助长对公共权力的不信任，还会造成有限的治安、救助人员的浪费。去年还时有发生韩国人看到伪装成露宿者闯入家中的人工智能视频，误认为是实际情况，向警方报案。在日本，也发生了人工智能生成的“假警察”出现在视频通话中，以调查为借口索要钱财的事件。在澳大利亚，有人制作了警察散布有关持枪许可证的虚假信息的人工智能视频，引发了争议。警察大学行政学系教授徐俊培（音）指出：“对于恶意的造假视频，有必要以妨碍执行公务或损害名誉等（比《电气通信基本法》）法定刑量更大的行为进行严厉制裁。”
赵承衍记者 cho@donga.com
About Dong-A Ilbo