资料图片：图为英国“雷神”隐身无人战机。

　　英国《卫报》网站8月22日发表了题为《我们不能取缔杀人机器人——现在为时已晚》的报道。

　　对于机器人技术和人工智能领域专家发出的取缔“杀人机器人”的呼声，有一种回应是：你们为什么没有早些想到这一点？

　　在呼吁制定这方面禁令的116名专家当中，包括像特斯拉公司首席执行官埃隆·马斯克这样的重量级人物。他们说：“让我们采取行动的时间不多了。一旦潘多拉盒子被打开，就很难再关上。”但是或许这样的系统早就存在，比如由英国BAE系统公司研发的“雷神”隐身无人战机，或者由三星公司制造并被部署到韩国边境的SGR-A1无人哨戒机枪。自动坦克也在筹划之中，而人类对于会造成伤亡的无人机的控制正在变成只是程度大小的问题。

　　不过从本质上讲，自从机器人问世，杀人机器人就伴随我们左右。1920年捷克作家卡雷尔·恰佩克创作的科幻剧本《罗素姆的万能机器人》让我们第一次拥有了机器人这个词。他笔下的人形机器人反抗并屠杀人类。从那以后，机器人一直在做这样的事情，从赛博人到终结者。关于机器人的故事很少有好的结局。

　　甚至很难不在机器人世界末日即将到来的背景下去思考马斯克和与他一道发声的人所提出的这个问题。即便人类最终的命运没有面临威胁，我们也知道其中的某一台机器会出现故障，产生像《机械战警》中Omni公司的机器人警察所制造的那种混乱。

　　这似乎让一个极为严肃的话题变得过于轻松。这些故事尽管引发了人们深层的恐惧，说到底不过是娱乐。不过，让这一讨论的焦点最终集中在机器人技术有好有坏上，进而暗示只要我们避免坏的技术，就会天下太平，这样的方式未免过于简单。

　　这个问题要更为复杂。一方面，这涉及更广泛、也越来越紧迫的机器人道德规范的问题；另一方面，这也关乎现代战争的本质。

　　我们如何让自动技术系统既安全又遵守道德规范？避免机器人给人类造成伤害是阿西莫夫在小说《我，机器人》中所探讨的主题，这本科幻小说短篇集对后世影响巨大，以至于阿西莫夫的“机器人三定律”如今有时几乎与牛顿的三大定律一样重要。具有讽刺意味的是，阿西莫夫的小说主要是关于这些出发点良好的定律如何在一些情况下遭到破坏的。

　　无论如何，道德问题不能简单地被当做一个放之四海而皆准的原则。历史学家尤瓦尔·诺亚·哈拉里指出，无人驾驶汽车需要一些行为准则来确定在面对不可避免并有可能致命的碰撞时应该怎样做：机器人应该去救谁？哈拉里说，或许我们会得到两种模式：利己主义（把驾驶员的生命放在第一位）和利他主义（把别人的生命放在第一位）。

　　“人权观察”组织2012年的一份关于杀人机器人的报告带有些许科幻色彩。报告说：“将害怕的平民与具有威胁性的敌方战斗人员区分开来，需要士兵了解一个人行为背后的动机，这是机器人办不到的事情。”此外，“机器人不能受到人类情感和共情能力的约束，而这种情感和共情能力会对杀戮平民的行为起到重要的阻止作用。”但是前面的说法是在表达一种信仰——使用生物特征识别技术的机器人在作出评估方面难道不比用直觉去判断的惊恐的士兵更胜一筹吗？至于后面的说法，给人的感觉是：有时的确如此。但是另外一些时候，身处战区的人也会肆意强奸和屠杀。

　　这样说不是要反驳报告对于自动机器人士兵的恐惧，我本人也同样对这样的前景感到害怕。不过，这让我们又回到了一个关键的问题上，这个问题无关技术，而是关乎战争。

　　目前我们对于战争伦理的看法已经带有强烈的随心所欲的色彩。“人权观察”组织的报告说：“使用完全自动的武器带来了问责方面的严重问题，这会破坏在平民保护方面的已有手段。”这样的观点不假，但是只要核武器在国际范围内是合法的，这种说法在道德伦理上就站不住脚。

　　自动化军事技术的问题与不断变化的战争性质本身存在密切的关联，在恐怖主义和叛乱活动频繁的年代，战争不再有开始或结束，也不再有战场或军队：正如美国战略分析家安东尼·科德斯曼所言：“现代战争所带来的教训之一是，战争不再能称之为战争。”不管我们如何应对这一问题，战争都不会再像诺曼底登陆。

　　古往今来的战争无不在使用当时可以获得的最先进的技术；“杀人机器人”也不例外。潘多拉的盒子随着炼钢技术的出现而被打开，或者打开得更早（而开启它的几乎从来都不是女性）。可以肯定，有人从中得到了好处。

　　我们务必克制自己要铸犁为剑的冲动，不过让国际武器贸易行业不要制造杀人机器人就如同让饮料制造商不要制造橙汁。