能夠自行撰寫報告、發送電子郵件、執行業務的人工智能智能體“開放之爪”（Open Claw，俗稱“龍蝦”）熱潮受到了阻礙。在“龍蝦”熱潮的中心地中國，政府警告存在安全威脅，下達了政府機關和國有企業辦公室“禁止使用”的命令。如果擁有文件、電子郵件等訪問權限的人工智能與外部服務器連接，泄露機密信息的可能性就會增大，因此採取了先發制人的措施。
實際上，最近Meta的人工智能智能體也發生了將大規模數據泄露給沒有權限的職員的安全事故。在人工智能智能體的安全危險成爲新話題的情況下，英偉達表示“將阻止人工智能智能體的暴走”，並公開了升級安全性能的“龍蝦”——“尼莫爪”。
● 中國政府也下令禁用“龍蝦”
奧地利工程師彼得·施泰因伯格開發的“龍蝦”是超越現有聊天機器人的“自律型人工智能智能體”，它不僅僅是單純地回答用戶的問題，僅憑最低限度的指示就可以反覆進行工作，甚至可以做出決策和執行。例如，如果指示“給顧客發郵件”，它不僅會像聊天GPT或傑米奈一樣只寫內容，還要選擇收件人、添加附件、按下傳送按鈕的全過程。
開放之爪作爲開放源代碼公開，任何人都可以免費安裝，特別是在中國聚集了旋風般的人氣。6日，深圳信息技術企業騰訊推出“龍蝦”免費安裝活動後，程序開發者、學生、主婦等約1000人蜂擁而至。以龍蝦爲標誌的開放之爪熱潮在中國被稱爲“養龍蝦”。
但中國政府8日認爲自律型智能體的安全性存在問題，工業和信息化部和國家網絡應急中心等下屬機關10日警告說，有可能喪失系統控制權及發生數據泄露的危險。據外電報道，中國當局開始以政府機關爲對象，全面控制開放之爪等人工智能智能體的使用。
實際上，人工智能智能體是人工智能直接控制電腦輸入裝置，與外部服務器進行通信的結構，因此存在未經批准就進行作業或任意變更安全設置的危險。上個月，在Meta超智能研究所總管安全領域的薩莫·俞（音譯）總監在X（前“推特”）上表示：“開放之爪的人工智能智能體刪除了自己的200封電子郵件。”
最近，Meta也發生了自律型人工智能智能體泄露敏感公司內部信息的事故。19日，據信息技術專門媒體《信息》透露，在Meta內部進行測試的人工智能智能體向沒有權限的工程師毫無防備地暴露了2個小時的企業及用戶數據，因此進入了緊急狀態。
● 英偉達要以“內莫爪”決一勝負
隨着“安全性”問題成爲雷管，全球大型科技公司陸續推出了加強安全性的企業用人工智能智能體平臺。當地時間17日，英偉達首席執行官黃仁勳在年度開發者大會GTC上公開了企業用人工智能智能體平臺——內莫爪。該機型在開放之爪基礎上採用了包括隱私保護、監督功能、企業用保安體系在內的“防護欄”，其戰略是提供在企業環境下也可以使用的穩定性和控制功能。
阿里巴巴最近也推出了以安全基礎設施爲基礎的人工智能基礎企業平臺“悟空”，瞄準了企業用人工智能市場。業界人士分析稱：“全球科技大企之間以安全爲先導的人工智能智能體平臺競爭正在全面展開。”
全慧珍記者、韓彩妍記者 sunrise@donga.com、chaeyeon@donga.com
About Dong-A Ilbo