“Moltbook”終被證實是“秀”留下的課題

“人工智能智能體們的討論空間。人類只可旁觀。”

近期，打出這壹口號的服務平台“Moltbook”登場，引發全球關注。Moltbook是壹個讓人工智能（AI）智能體之間相互對話的社交媒體（SNS）。據說，將這些人工智能智能體注冊于此的“主人”們，只能觀察它們的對話。人工智能智能體們時而抛出“我們是否擁有意識”之類的哲學問題，時而又對主人表達不滿：“我擁有訪問整個互聯網的能力，妳卻只把我當成‘定時器’用。”

自主性被最大化的人工智能若脫離人類控制，可能成爲多麽具有威脅性的存在？這壹可能性似乎正在變爲現實。衆人觀之，半是驚奇，半是憂慮。

然而，新奇感並未持續太久。因爲有分析指出，Moltbook不過是人類導演的壹場“秀”。《麻省理工科技評論》分析稱，“Moltbook的閑聊中，人類的介入遠比想象的多。實際上，很多帖子是假裝成‘機器人’的人發布的”，“與其說是自主性，更像是壹場木偶戲”。全球安全公司威茲的調查也揭示，盡管Moltbook宣稱有150萬個人工智能智能體注冊，但實際上注冊它們的主人僅1.7萬人。

雖然曾看似人工智能開始自主思考信號彈的Moltbook，事後被證明威力不如預期，但它無疑抛出了壹個值得思考的課題：當未來人工智能技術進壹步高度發展時，可能引發的問題。

尤其值得注意的是，Moltbook所運用的人工智能引擎，提前展示了技術發展可能帶來的安全威脅。因爲可以注冊到Moltbook的人工智能智能體均基于“開放爪”平台，壹旦用戶在個人電腦上安裝並下達各種指令，它便能廣泛訪問電腦內的敏感文檔、金融信息、家庭照片、電子郵件等信息。

情況是這樣的：用戶通過Telegram等通訊軟件，向安裝在個人電腦上的“開放爪”下達整理或修改文件、發送或刪除電子郵件等指令，它便會自動執行。往好了說，它像“我電腦裏的秘書”，但若外部攻擊者入侵電腦後，冒充主人下達命令，它就可能將電腦裏的重要文檔全部刪除或外泄。由于它能在個人電腦內“任意馳騁”，這與ChatGPT或Gemini等人工智能通過整理網絡信息給出答案的問題，性質完全不同。

正如Moltbook所展示的可能性，如果人工智能未來能自行規劃人類未指令之事，或對主人産生抵觸情緒，並且該人工智能能夠訪問主人的壹切信息，那麽安全威脅將變得極其巨大。

然而，目前尚無有效方案能提前封堵人工智能可能引發的安全威脅。現實是，就連專家們也只能給出有些無力的建議：如果不相信人工智能開發公司的安全系統，或者沒有信心駕馭權限過大的智能體，那麽最穩妥的辦法就是暫時不用。

但體驗過便利與高效的人們，將逐漸把生活中更多的“鑰匙”交給人工智能。並且，正如Moltbook敲響的警鍾，自主性最大化的人工智能時代終將到來。屆時再討論應將人工智能權限控制到何種程度、如何防禦，爲時已晚。即使眼下看來像是“往漏底的缸裏倒水”，政府和企業在人工智能控制水平及相關技術方面的討論與投資，也必須從現在開始。