不過明誠說“沒有機器人能毀滅人類， 只有人類自己能夠毀滅自己。”我不太同意這樣的理解，儘管從抽象意義上講它是對的。

我留意到一個普遍現象，各個領域的新科技出現的時候，總會有人懷疑它的未來潛能中可能的危害，而所有領域的研究者或科學家的回答幾乎驚人的一致，他們都回答說新技術能夠給人類帶來什麼好處以及解決什麼目前無法解決的問題，這等於間接承認潛在的危險是真實的。

再回到“人類自己能夠毀滅自己”，二十幾年以前我思考過一個問題，任何系統越複雜，其生存能力就越低，這在理論上並不難理解。比如帝國會在一夜間崩潰，因為它的生態鏈太複雜，千年蟲危機是躲過去了，次貸危機就沒有躲過去，而次貸危機與金融衍生產品的複雜性直接相關。。。等等。

所以理論上講只有人類自己能夠毀滅自己，但是難易的程度，則與人類掌握的技術和複雜性直接相關。這個也非常容易理解，比如核子時代不存在“擦槍走火”這種概念，核按扭一按下去，結果是不可逆的。前兩天萬維有一篇誤發核戰指令的報導，其中一位指揮官，當時因為沒有執行操作指令而瀕於心理崩潰。。。這篇報道真假不論，但人會犯錯誤，而且人設計的系統也可能出錯，這是毫無疑問的。

所以科學不是簡單的雙刃劍的概念，人類其實已經走向一條不歸路，把自己的命運和未來，完全置於生死由命的或然性之中。歷史一再證明，人類的理性是有限的，人類能夠生存到今天，僅僅因為過去人類的破壞能力有限。