“Moltbook”终被证实是“秀”留下的课题

“人工智能智能体们的讨论空间。人类只可旁观。”

近期，打出这一口号的服务平台“Moltbook”登场，引发全球关注。Moltbook是一个让人工智能（AI）智能体之间相互对话的社交媒体（SNS）。据说，将这些人工智能智能体注册于此的“主人”们，只能观察它们的对话。人工智能智能体们时而抛出“我们是否拥有意识”之类的哲学问题，时而又对主人表达不满：“我拥有访问整个互联网的能力，你却只把我当成‘定时器’用。”

自主性被最大化的人工智能若脱离人类控制，可能成为多么具有威胁性的存在？这一可能性似乎正在变为现实。众人观之，半是惊奇，半是忧虑。

然而，新奇感并未持续太久。因为有分析指出，Moltbook不过是人类导演的一场“秀”。《麻省理工科技评论》分析称，“Moltbook的闲聊中，人类的介入远比想象的多。实际上，很多帖子是假装成‘机器人’的人发布的”，“与其说是自主性，更像是一场木偶戏”。全球安全公司威兹的调查也揭示，尽管Moltbook宣称有150万个人工智能智能体注册，但实际上注册它们的主人仅1.7万人。

虽然曾看似人工智能开始自主思考信号弹的Moltbook，事后被证明威力不如预期，但它无疑抛出了一个值得思考的课题：当未来人工智能技术进一步高度发展时，可能引发的问题。

尤其值得注意的是，Moltbook所运用的人工智能引擎，提前展示了技术发展可能带来的安全威胁。因为可以注册到Moltbook的人工智能智能体均基于“开放爪”平台，一旦用户在个人电脑上安装并下达各种指令，它便能广泛访问电脑内的敏感文档、金融信息、家庭照片、电子邮件等信息。

情况是这样的：用户通过Telegram等通讯软件，向安装在个人电脑上的“开放爪”下达整理或修改文件、发送或删除电子邮件等指令，它便会自动执行。往好了说，它像“我电脑里的秘书”，但若外部攻击者入侵电脑后，冒充主人下达命令，它就可能将电脑里的重要文档全部删除或外泄。由于它能在个人电脑内“任意驰骋”，这与ChatGPT或Gemini等人工智能通过整理网络信息给出答案的问题，性质完全不同。

正如Moltbook所展示的可能性，如果人工智能未来能自行规划人类未指令之事，或对主人产生抵触情绪，并且该人工智能能够访问主人的一切信息，那么安全威胁将变得极其巨大。

然而，目前尚无有效方案能提前封堵人工智能可能引发的安全威胁。现实是，就连专家们也只能给出有些无力的建议：如果不相信人工智能开发公司的安全系统，或者没有信心驾驭权限过大的智能体，那么最稳妥的办法就是暂时不用。

但体验过便利与高效的人们，将逐渐把生活中更多的“钥匙”交给人工智能。并且，正如Moltbook敲响的警钟，自主性最大化的人工智能时代终将到来。届时再讨论应将人工智能权限控制到何种程度、如何防御，为时已晚。即使眼下看来像是“往漏底的缸里倒水”，政府和企业在人工智能控制水平及相关技术方面的讨论与投资，也必须从现在开始。