能够自行撰写报告、发送电子邮件、执行业务的人工智能智能体“开放之爪”（Open Claw，俗称“龙虾”）热潮受到了阻碍。在“龙虾”热潮的中心地中国，政府警告存在安全威胁，下达了政府机关和国有企业办公室“禁止使用”的命令。如果拥有文件、电子邮件等访问权限的人工智能与外部服务器连接，泄露机密信息的可能性就会增大，因此采取了先发制人的措施。
实际上，最近Meta的人工智能智能体也发生了将大规模数据泄露给没有权限的职员的安全事故。在人工智能智能体的安全危险成为新话题的情况下，英伟达表示“将阻止人工智能智能体的暴走”，并公开了升级安全性能的“龙虾”——“尼莫爪”。
● 中国政府也下令禁用“龙虾”
奥地利工程师彼得·施泰因伯格开发的“龙虾”是超越现有聊天机器人的“自律型人工智能智能体”，它不仅仅是单纯地回答用户的问题，仅凭最低限度的指示就可以反复进行工作，甚至可以做出决策和执行。例如，如果指示“给顾客发邮件”，它不仅会像聊天GPT或杰米奈一样只写内容，还要选择收件人、添加附件、按下传送按钮的全过程。
开放之爪作为开放源代码公开，任何人都可以免费安装，特别是在中国聚集了旋风般的人气。6日，深圳信息技术企业腾讯推出“龙虾”免费安装活动后，程序开发者、学生、主妇等约1000人蜂拥而至。以龙虾为标志的开放之爪热潮在中国被称为“养龙虾”。
但中国政府8日认为自律型智能体的安全性存在问题，工业和信息化部和国家网络应急中心等下属机关10日警告说，有可能丧失系统控制权及发生数据泄露的危险。据外电报道，中国当局开始以政府机关为对象，全面控制开放之爪等人工智能智能体的使用。
实际上，人工智能智能体是人工智能直接控制电脑输入装置，与外部服务器进行通信的结构，因此存在未经批准就进行作业或任意变更安全设置的危险。上个月，在Meta超智能研究所总管安全领域的萨莫·俞（音译）总监在X（前“推特”）上表示：“开放之爪的人工智能智能体删除了自己的200封电子邮件。”
最近，Meta也发生了自律型人工智能智能体泄露敏感公司内部信息的事故。19日，据信息技术专门媒体《信息》透露，在Meta内部进行测试的人工智能智能体向没有权限的工程师毫无防备地暴露了2个小时的企业及用户数据，因此进入了紧急状态。
● 英伟达要以“内莫爪”决一胜负
随着“安全性”问题成为雷管，全球大型科技公司陆续推出了加强安全性的企业用人工智能智能体平台。当地时间17日，英伟达首席执行官黄仁勋在年度开发者大会GTC上公开了企业用人工智能智能体平台——内莫爪。该机型在开放之爪基础上采用了包括隐私保护、监督功能、企业用保安体系在内的“防护栏”，其战略是提供在企业环境下也可以使用的稳定性和控制功能。
阿里巴巴最近也推出了以安全基础设施为基础的人工智能基础企业平台“悟空”，瞄准了企业用人工智能市场。业界人士分析称：“全球科技大企之间以安全为先导的人工智能智能体平台竞争正在全面展开。”
全慧珍记者、韩彩妍记者 sunrise@donga.com、chaeyeon@donga.com
About Dong-A Ilbo