利用人工智能製作並傳播虛假視頻的30多歲油管（Youtube）博主被拘留。隨着國內外發生因人工智能視頻而誤派警察和消防等事件，警方開始採取嚴正的應對措施。
京畿北部警察廳2日表示，以《電氣通信基本法》上虛假通信等嫌疑拘留了用人工智能製作並傳播警察現場出動場面的30多歲油管博主，並移交檢察機關。據警方透露，該油管博主涉嫌從去年10月起製作54個虛假視頻，並在網上發佈。據調查，他一直利用聊天GPT等製作提示語，利用人工智能視頻生成軟件“Sora”製作視頻。該博主主要以短視頻的形式在社交媒體上發佈視頻，累計點擊率約爲3400萬次。
該油管博主上傳的視頻中，包括警察追趕拿着兇器的中國人時用電擊槍制服的場面、在街上與女主播發生衝突後摔倒逮捕的場面等警察過度行使暴力的場面。在另一段視頻中，還出現了反對美國總統特朗普的集會參加者向警方抗議“腐敗警察下臺”的場面。視頻內容看似警察執行公務的樣子，而且聲音和周圍的噪音也都是由人工智能生成。
問題是，在各種平臺上可以輕易找到這種“假冒公權力”的人工智能影像。2日，在主要社交媒體上出現警察、消防員登場的其他操作視頻，沒有被刪除，被放置不管。去年10月上傳的一段視頻中，警察在集會現場對手持太極旗的青年斥責道：“要想揮舞太極旗，必須得到許可。今天是中國代表團到來的日子，必須舉起（中國國旗）五星紅旗。”實際上，誤以爲真的多數網民還留言稱“國家正在共產化”等。該博主還上傳了警察向主播發射水槍或消防車撞上堵住通道的車輛後推行的刺激性視頻。
問題是，這種人工智能造假視頻不僅會助長對公共權力的不信任，還會造成有限的治安、救助人員的浪費。去年還時有發生韓國人看到僞裝成露宿者闖入家中的人工智能視頻，誤認爲是實際情況，向警方報案。在日本，也發生了人工智能生成的“假警察”出現在視頻通話中，以調查爲藉口索要錢財的事件。在澳大利亞，有人制作了警察散佈有關持槍許可證的虛假信息的人工智能視頻，引發了爭議。警察大學行政學系教授徐俊培（音）指出：“對於惡意的造假視頻，有必要以妨礙執行公務或損害名譽等（比《電氣通信基本法》）法定刑量更大的行爲進行嚴厲制裁。”
趙承衍記者 cho@donga.com
About Dong-A Ilbo