AI的第四原则

本月初，优兔上发布了一段谷歌人工智能喇叭之间对话的视频，让像我这样一直认为人工智能喇叭只和人类对话的人大吃一惊。尽管对话是“什么是爱？”“孩子不会伤害我”这类驴唇不对马嘴的内容，但想想如果继续发展下去会怎样，不禁令人发毛，人工智能之间如果实现了相互沟通，也许能够摆脱人类的控制。

据说，实际上在人工智能研究所里，进行很多人工智能的对话试验。其目的主要是从声音识别的角度确认人工智能是否正确发声和听取，但现在已有征兆显示，人工智能在向试验通过言语传达和接受知识的方向发展。例如，懂得电影的人工智能和懂得音乐的人工智能通过对话相互学习。

最近发生在脸书的人工智能研究所发生了一件事，两个人工智能聊天机器人CHATBOT相互用隐语进行对话，开发人员不得不强行关闭系统。聊天机器人鲍勃说道：“I I can I I I everything else”，而爱丽丝回答说：“‘balls have a ball to me”，而且最后的“to me”反复了7次。虽然是不通的英语，但看起来有可能是速记性隐语。是不是可以说，这就像青少年用大人听不懂的难度较大的缩略语进行对话呢？

俄罗斯出生的美国SF作家艾萨克·阿西莫夫在1942年发表的短篇小说《转圈圈》中提出了机器人三定律。第一定律是，机器人不能对人类带来危害，也不能对人类陷入危险而袖手旁观；第二定律是，机器人必须服从人类的命令，但如果同第一定律相违背时除外；第三定律是，机器人应该保护自己，但违背第一和第二定律时除外。现在看起来，应该再加上第四条定律，即机器人必须用人类听得懂的正常的语言进行对话。