資料圖片：圖為英國“雷神”隱身無人戰機。

　　英國《衛報》網站8月22日發表了題為《我們不能取締殺人機器人——現在為時已晚》的報道。

　　對於機器人技術和人工智能領域專家發出的取締“殺人機器人”的呼聲，有一種回應是：你們為什麼沒有早些想到這一點？

　　在呼籲制定這方面禁令的116名專家當中，包括像特斯拉公司首席執行官埃隆·馬斯克這樣的重量級人物。他們說：“讓我們採取行動的時間不多了。一旦潘多拉盒子被打開，就很難再關上。”但是或許這樣的系統早就存在，比如由英國BAE系統公司研發的“雷神”隱身無人戰機，或者由三星公司製造並被部署到韓國邊境的SGR-A1無人哨戒機槍。自動坦克也在籌劃之中，而人類對於會造成傷亡的無人機的控制正在變成只是程度大小的問題。

　　不過從本質上講，自從機器人問世，殺人機器人就伴隨我們左右。1920年捷克作家卡雷爾·恰佩克創作的科幻劇本《羅素姆的萬能機器人》讓我們第一次擁有了機器人這個詞。他筆下的人形機器人反抗並屠殺人類。從那以後，機器人一直在做這樣的事情，從賽博人到終結者。關於機器人的故事很少有好的結局。

　　甚至很難不在機器人世界末日即將到來的背景下去思考馬斯克和與他一道發聲的人所提出的這個問題。即便人類最終的命運沒有面臨威脅，我們也知道其中的某一台機器會出現故障，產生像《機械戰警》中Omni公司的機器人警察所製造的那種混亂。

　　這似乎讓一個極為嚴肅的話題變得過於輕鬆。這些故事儘管引發了人們深層的恐懼，說到底不過是娛樂。不過，讓這一討論的焦點最終集中在機器人技術有好有壞上，進而暗示只要我們避免壞的技術，就會天下太平，這樣的方式未免過於簡單。

　　這個問題要更為複雜。一方面，這涉及更廣泛、也越來越緊迫的機器人道德規範的問題；另一方面，這也關乎現代戰爭的本質。

　　我們如何讓自動技術系統既安全又遵守道德規範？避免機器人給人類造成傷害是阿西莫夫在小說《我，機器人》中所探討的主題，這本科幻小說短篇集對後世影響巨大，以至於阿西莫夫的“機器人三定律”如今有時幾乎與牛頓的三大定律一樣重要。具有諷刺意味的是，阿西莫夫的小說主要是關於這些出發點良好的定律如何在一些情況下遭到破壞的。

　　無論如何，道德問題不能簡單地被當做一個放之四海而皆準的原則。歷史學家尤瓦爾·諾亞·哈拉里指出，無人駕駛汽車需要一些行為準則來確定在面對不可避免並有可能致命的碰撞時應該怎樣做：機器人應該去救誰？哈拉里說，或許我們會得到兩種模式：利己主義（把駕駛員的生命放在第一位）和利他主義（把別人的生命放在第一位）。

　　“人權觀察”組織2012年的一份關於殺人機器人的報告帶有些許科幻色彩。報告說：“將害怕的平民與具有威脅性的敵方戰鬥人員區分開來，需要士兵了解一個人行為背後的動機，這是機器人辦不到的事情。”此外，“機器人不能受到人類情感和共情能力的約束，而這種情感和共情能力會對殺戮平民的行為起到重要的阻止作用。”但是前面的說法是在表達一種信仰——使用生物特徵識別技術的機器人在作出評估方面難道不比用直覺去判斷的驚恐的士兵更勝一籌嗎？至於後面的說法，給人的感覺是：有時的確如此。但是另外一些時候，身處戰區的人也會肆意強姦和屠殺。

　　這樣說不是要反駁報告對於自動機器人士兵的恐懼，我本人也同樣對這樣的前景感到害怕。不過，這讓我們又回到了一個關鍵的問題上，這個問題無關技術，而是關乎戰爭。

　　目前我們對於戰爭倫理的看法已經帶有強烈的隨心所欲的色彩。“人權觀察”組織的報告說：“使用完全自動的武器帶來了問責方面的嚴重問題，這會破壞在平民保護方面的已有手段。”這樣的觀點不假，但是只要核武器在國際範圍內是合法的，這種說法在道德倫理上就站不住腳。

　　自動化軍事技術的問題與不斷變化的戰爭性質本身存在密切的關聯，在恐怖主義和叛亂活動頻繁的年代，戰爭不再有開始或結束，也不再有戰場或軍隊：正如美國戰略分析家安東尼·科德斯曼所言：“現代戰爭所帶來的教訓之一是，戰爭不再能稱之為戰爭。”不管我們如何應對這一問題，戰爭都不會再像諾曼底登陸。

　　古往今來的戰爭無不在使用當時可以獲得的最先進的技術；“殺人機器人”也不例外。潘多拉的盒子隨着煉鋼技術的出現而被打開，或者打開得更早（而開啟它的幾乎從來都不是女性）。可以肯定，有人從中得到了好處。

　　我們務必克制自己要鑄犁為劍的衝動，不過讓國際武器貿易行業不要製造殺人機器人就如同讓飲料製造商不要製造橙汁。