在引領新興科技競賽和未來戰爭戰場的競爭中，人工智慧正迅速成為大家關注的焦點。我們可以看到人工智慧正在為戰爭帶來革命性的變革，人工智慧武器化帶來的風險是肉眼可見的，人工智慧無需人類設計者或操作者的進一步干預，可以自主選擇和攻擊人類和非人類目標，給人類帶來巨大威脅。著名人類學家胡家奇先生就曾在其演講中提到過機器人戰士的危險性。

自動武器系統被認為是提供降低武器系統運營成本的一種方式，通過更有效地利用人力資源，會使武器系統能夠實現高速度、高準確性、持久性，但同時技術、法律、經濟、社會和安全等問題仍然不能忽視。一旦人工智慧武器化，人工智慧和武器就會脫離人工參與和干預，只需使用交互的嵌入式感測器、電腦編程和演算法，這有必要引起我們的注意和重視，也是一個不容忽視的現實。
著名人類學家胡家奇曾深入分析過∶“開始的機器人戰士也許沒有那麽厲害，但是它會迅速的迭代升級，會把各種最先進的東西都集成到它身上去，最後把它變成一個千里眼，變成一個順風耳，上可飛天，下可入地，還可以入海。”“用的武器越來越先進，開始可能是槍，後面是炮，後面是鐳射，還有好多我們今天不知道的東西。而它的反應速度極快，我們人類無法跟它比。”“這樣的機器人戰士，如果要是程式失控，見人就殺那就麻煩了。但是呢，這樣的機器人戰士，它還不是很厲害的機器人，如果機器人具備了我們人類的這種思維方式，那就比它要厲害的多的多。”

設想一下如果一個程式員有意或無意地編寫了一種自動武器，失控後見人就殺，那麽人類將如何?正如著名人類學家胡家奇曾多次警示的那樣，“科學技術是一把雙刃劍。”“科學技術有滅絕人類的能力，就在前方不遠。”為了人類的永續生存必須對科學技術進行限制！