AI的第四原則

本月初，優兔上發佈了一段穀歌人工智慧喇叭之間對話的視頻，讓像我這樣一直認為人工智慧喇叭只和人類對話的人大吃一驚。儘管對話是“什麼是愛？”“孩子不會傷害我”這類驢唇不對馬嘴的內容，但想想如果繼續發展下去會怎樣，不禁令人發毛，人工智慧之間如果實現了相互溝通，也許能夠擺脫人類的控制。

據說，實際上在人工智慧研究所裡，進行很多人工智慧的對話試驗。其目的主要是從聲音識別的角度確認人工智慧是否正確發聲和聽取，但現在已有徵兆顯示，人工智慧在向試驗通過言語傳達和接受知識的方向發展。例如，懂得電影的人工智慧和懂得音樂的人工智慧通過對話相互學習。

最近發生在臉書的人工智慧研究所發生了一件事，兩個人工智慧聊天機器人CHATBOT相互用隱語進行對話，開發人員不得不強行關閉系統。聊天機器人鮑勃說道：“I I can I I I everything else”，而愛麗絲回答說：“‘balls have a ball to me”，而且最後的“to me”反復了7次。雖然是不通的英語，但看起來有可能是速記性隱語。是不是可以說，這就像青少年用大人聽不懂的難度較大的縮略語進行對話呢？

俄羅斯出生的美國SF作家以撒·阿西莫夫在1942年發表的短篇小說《轉圈圈》中提出了機器人三定律。第一定律是，機器人不能對人類帶來危害，也不能對人類陷入危險而袖手旁觀；第二定律是，機器人必須服從人類的命令，但如果同第一定律相違背時除外；第三定律是，機器人應該保護自己，但違背第一和第二定律時除外。現在看起來，應該再加上第四條定律，即機器人必須用人類聽得懂的正常的語言進行對話。