杀手机器人的伦理

电影《钢铁侠》的主人公托尼•斯塔克不但能够制作会飞到主人所在地并能自动穿上的钢铁侠外套，还能制造能够自由自在地与敌人博斗的机器人。代替人类与敌人战斗的机器人，并不是科幻电影中才有。美国国防部与机器人制造公司共同开发的“大狗（Big Dog）”机器人，就像它的名字一样，能用四条腿搬运行李，行走在险峻的地形，完成侦察任务。

通过人工智能自行判断并发现目标然后进行追踪和攻击，拥有这种功能的机器人叫做杀手机器人。这种机器人，在美国、以色列、英国和日本早有开发，在韩国也正在开发之中。最近美国一个机器人专家以非军事区（DMZ）为例提到把杀手机器人投放到现场，成为人们热议的话题。三星技术院（现韩火技术院）开发的侦察用机器人拥有4个探测探头，可以识别运动的物体，还搭载了攻击性武器。

有人认为，杀手机器人可以执行暗杀、巅覆国家的特殊任务，并且也是防止将士牺牲的最适宜的武器。但也有人表示强烈反对，认为它无法识别孩子和军人，是危险的物品。一旦机器人落入恐怖分子或独裁者的手里，就可能酿发大屠杀事件，因此十分令人担心。电影《终结者》的主人公是一个拥有人工智能的机器人，因此能够理解人类。这样的情况，在电影里面当然是可能的。

英国物理学家斯蒂芬•霍金、《钢铁侠》的实际主人公电动汽车特斯拉的设立者埃隆•马斯克、苹果的共同创始人斯蒂夫等世界级的学者、实业家、哲学家共1000多人敦促禁止开发杀手机器人。埃扎克•阿西莫夫的小说《基础（foundation）》里有制造机器人的项三原则。第一是机器人不能给人类带来危害；第二是它在不违背第一原则的范围内服从人类的命令；第三是它在不违背第二原则的范围内，必须保护自己。人类制造出机器人，并为机器人的伦理苦恼，真是一种讽刺。其实问题不在于机器人的伦理，而是人类的伦理吧？

张成熙 评论委员 shchung@donga.com