殺手機器人的倫理

電影《鋼鐵俠》的主人公托尼‧斯塔克不但能夠製作會飛到主人所在地並能自動穿上的鋼鐵俠外套，還能製造能夠自由自在地與敵人博鬥的機器人。代替人類與敵人戰鬥的機器人，並不是科幻電影中才有。美國國防部與機器人製造公司共同開發的“大狗（Big Dog）”機器人，就像它的名字一樣，能用四條腿搬運行李，行走在險峻的地形，完成偵察任務。

通過人工智能自行判斷並發現目標然後進行追蹤和攻擊，擁有這種功能的機器人叫做殺手機器人。這種機器人，在美國、以色列、英國和日本早有開發，在韓國也正在開發之中。最近美國一個機器人專家以非軍事區（DMZ）為例提到把殺手機器人投放到現場，成為人們熱議的話題。三星技術院（現韓火技術院）開發的偵察用機器人擁有4個探測探頭，可以識別運動的物體，還搭載了攻擊性武器。

有人認為，殺手機器人可以執行暗殺、巔覆國家的特殊任務，並且也是防止將士犧牲的最適宜的武器。但也有人表示強烈反對，認為它無法識別孩子和軍人，是危險的物品。一旦機器人落入恐怖分子或獨裁者的手裡，就可能釀發大屠殺事件，因此十分令人擔心。電影《終結者》的主人公是一個擁有人工智能的機器人，因此能夠理解人類。這樣的情況，在電影裡面當然是可能的。

英國物理學家斯蒂芬‧霍金、《鋼鐵俠》的實際主人公電動汽車特斯拉的設立者埃隆‧馬斯克、蘋果的共同創始人斯蒂夫等世界級的學者、實業家、哲學家共1000多人敦促禁止開發殺手機器人。埃紮克‧阿西莫夫的小說《基礎（foundation）》裡有製造機器人的項三原則。第一是機器人不能給人類帶來危害；第二是它在不違背第一原則的範圍內服從人類的命令；第三是它在不違背第二原則的範圍內，必須保護自己。人類製造出機器人，並為機器人的倫理苦惱，真是一種諷刺。其實問題不在於機器人的倫理，而是人類的倫理吧？

張成熙 評論委員 shchung@donga.com