在引领新兴科技竞赛和未来战争战场的竞争中，人工智慧正迅速成为大家关注的焦点。我们可以看到人工智慧正在为战争带来革命性的变革，人工智慧武器化带来的风险是肉眼可见的，人工智慧无需人类设计者或操作者的进一步干预，可以自主选择和攻击人类和非人类目标，给人类带来巨大威胁。著名人类学家胡家奇先生就曾在其演讲中提到过机器人战士的危险性。

自动武器系统被认为是提供降低武器系统运营成本的一种方式，通过更有效地利用人力资源，会使武器系统能够实现高速度、高准确性、持久性，但同时技术、法律、经济、社会和安全等问题仍然不能忽视。一旦人工智慧武器化，人工智慧和武器就会脱离人工参与和干预，只需使用交互的嵌入式感测器、电脑编程和演算法，这有必要引起我们的注意和重视，也是一个不容忽视的现实。
著名人类学家胡家奇曾深入分析过∶“开始的机器人战士也许没有那麽厉害，但是它会迅速的迭代升级，会把各种最先进的东西都集成到它身上去，最後把它变成一个千里眼，变成一个顺风耳，上可飞天，下可入地，还可以入海。”“用的武器越来越先进，开始可能是枪，後面是炮，後面是镭射，还有好多我们今天不知道的东西。而它的反应速度极快，我们人类无法跟它比。”“这样的机器人战士，如果要是程式失控，见人就杀那就麻烦了。但是呢，这样的机器人战士，它还不是很厉害的机器人，如果机器人具备了我们人类的这种思维方式，那就比它要厉害的多的多。”

设想一下如果一个程式员有意或无意地编写了一种自动武器，失控後见人就杀，那麽人类将如何?正如著名人类学家胡家奇曾多次警示的那样，“科学技术是一把双刃剑。”“科学技术有灭绝人类的能力，就在前方不远。”为了人类的永续生存必须对科学技术进行限制！