Go to contents

與人工智能淫穢視頻的戰爭……再晚就要遭殃

與人工智能淫穢視頻的戰爭……再晚就要遭殃

Posted September. 21, 2024 07:33   

Updated September. 21, 2024 07:33

한국어

“與謊言鬥爭的最簡明的道路,就是和真相在壹起。”

既精彩又苦澀。當地時間11日,當下“頂級”流行歌手泰勒·斯威夫特支持美國民主黨總統候選人哈裏斯而上傳的“照片墻”帖子終於結束了。只有壹點,其中提到用人工智能深度偽造制作的自己的假照片,讓人回味無窮。用事實地來對抗謊言吧。這分明是正確的,但卻讓人想起了碰壁的現實。

最近在韓國引起爭議的人工智能深度偽造淫穢視頻之所以可怕,就在於它打破了這種“真偽的邊界”。用人工智能編輯技術合成其他臉部制造淫穢視頻的瞬間,不管它是真是假,都會有人遭受可怕的損失。大面積擴散之後就算是真相大白,又怎能補償其傷痛?英國《獨立報》就人工智能的這種惡意利用表示:“可以說,那相當於平常人家的烤面包機都能成為制造核彈的可怕兵工廠。”

難道都到了那種程度嗎?德國某信息技術網絡雜誌上個月透露,由於擔心人工智能深度偽造淫穢視頻的制作會被用於犯罪,因此不記述具體方法,令人尷尬。只要在電腦上安裝任何人都可以接近的開源人工智能模型,再輸入“適當的”字句就能完成。信息技術專家查看結果後表示:“雖然有不自然的地方,但也要仔細觀察才能知道。令人震驚的是,就算沒有特別的專業知識也能制作。”

最近在美國因涉嫌制作人工智能淫穢視頻而被捕的那些人就是如此。從在五角大樓工作的軍人到安靜鄉村的現職教師,再到10歲出頭的初中生……只是坐在房間角落裏敲敲鍵盤,就成了惡質犯罪人員。美國《芝加哥論壇報》報道說:“從日常生活中打招呼的身邊人士到素不相識的海外網紅,他們不分對象。”

隨著情況越來越嚴重,西方政府和立法機關等似乎開始全力以赴。美國加利福尼亞州議會本月初通過可以對所有利用人工智能深度偽造技術制作、散布、持有兒童淫穢視頻進行處罰的法案。微軟和開放人工智能等11日在白宮承諾,為防止深度偽造淫穢視頻,將從人工智能學習數據中刪除裸體形象。歐盟也著手全面調查最近開發的人工智能模型是否因大量生產淫秩視頻而違反了個人保護規定。美國《華盛頓郵報》說,“考慮到限制趕不上技術的現實,雖然感覺為時已晚,但如果沒有全方位的努力,人工智能將成為嚴重的災難”,支持進行限制。

雖有為時已晚之感,韓國也傳出了好消息。朝野政黨19日協商通過了加強對兒童、青少年人工智能深度偽造淫穢視頻等處罰相關犯罪、支援受害者的法案。事實上,去年有人雖然提出了幾乎相同的法案,但在沒有得到關註的情況下被廢棄,沒有比這更遲緩的應對了。但也不能因為為時已晚就放棄。美國NBC新聞在報道白宮承諾儀式時表示:“人工智能深度偽造淫穢視頻戰爭關系到人類的尊嚴。”如果用稅金運營的國家機關不為國民尊嚴而鬥爭,那麽還有存在的理由嗎?