電腦程序 AlphaGo 對韓國九段李世石四比一。程序改進後邀戰中國九段柯潔，三比零勝。柯九段賽場飈淚。場外觀戰老聶絕望，謂 AlphaGo 水平已達圍棋二十段或更高。聶棋聖一語到家，承認不是人下圍棋可超過人，道出這場人機對弈－人機競賽的意思所在。

贏完兩位當世高手之後，AlphaGo 被研發者收起，暫時不再出戰。是在繼續改進? 還是研發者需要時間做些關於人類哲學的思考? 可以想見，兩者都有可能。而後者，對於人工智能的發展來說，尤有必要。

記得某單位有位象棋高手，被一位愛下棋的同事追着請教，非要問您看我下得怎樣。高手不得已，只好說老實話，“你棋挺好。……就是有點瞧不出步兒來。”瞧得出棋步，動子之前能瞧（預見）出雙方多少步可能的變動，這是行棋時取得先機和勝利所倚仗的根本。高手不欺人，原想說得客氣一些，到底客氣不成。

初期的電腦棋牌程序，或許就是先輸入基本的規則邏輯，再加儘量多多輸入各種步驟因應的可能組合，也就是棋步兒，隨着機器運算速度升級加快，越來越能料敵機先? 作為人工智能的技術外行，對這個路數我還能約略想像。到了 AlphaGo 的階段，它好像已經超過了依靠人工輸入的因應成方，顯示出學習總結和自我提高的能力? 這裡究竟有何名堂，就超出了筆者卑微的對人工智能技術的理解。

且說下棋，腦力活兒，機器贏了。動胳臂動腿呢? 更不用說，您甭想說動哪位拳擊散打柔道武術舉重摔跤等等高手冠軍去跟機器較勁。再進一步（兩步三步）發展，一旦機器能夠自己煉鋼鍛件，自己生產更換電池，自己修復改進機件程序，那麼機器無疑能，用句流行語，完敗人類。咱們唯一能指望的，就是它們——在最初被裝配好、開始運行後——千萬千萬壓根兒別被用來跟人類作對，像 AlphaGo 被用來將李、柯兩位冷冷戰勝那樣。

筆者這一點憂慮，直到去年以前，自問還屬於杞人之思。到 AlphaGo 大敗柯潔、國人齊聲喝彩（世上其他人反響若何，暫時不知為不知）之後，或許會有更多的人來同憂同慮? 至今早有許多屬於科幻類的電影，把機器人或恣意或失控後大敗無可奈何的人類描畫得如在目前。就孤陋如筆者（為看這類片子從不上電影院，以免頭暈，只在電視上看）所見的部分作品而言，恐怕不能說編導只是虛構奇想無由聳聽，而是反映了很實在的千歲之憂。AlphaGo 的勝利就是活生生的苗頭。

從低級生物進化到脊椎動物再進化到原始人和今天的人類，經歷了多久?　文言稱“億萬斯年”。然而，從最初投入運營的火車到高速鐵路的出現，只有一個半世紀左右。科技發展和自然進化的步伐速率無法相提並論，人工智能屬於前者。不難想到，獨立於人類，完全外化異化成為另類存在的人工智能，果有一日立於世界，那它得道成仙可遠遠用不了億萬斯年，也許就是一個或最多幾個世紀的事。在那之後，人類即使不被機器消滅，也會終日面臨致命對手，比今天的原子彈氫彈要更難對付得多。

所以，人工智能，它的研發製造不可避免地要給人類提出一個問題，那就是對之是否必須施加人類道德的約束。或曰：非也，人工智能顯示的是人的無盡聰明，無論何時它都只能為人的具體需要服務。某答：這個，反正你信了，我還得想想。

按主張發展人工智能者說，似乎對人工智能只用功利標準來衡量即足矣。然而，細看功利主義的說法，是“那些給最大多數人帶來最大幸福的行動就是最好的行動。”這是不是說，功利主義終歸要落在人文主義的規範之內——沒有什麼聰明機巧有理由離開人的控制而得到人類的承認? 

從人工智能的話題推開，再想一想，有些被視為理所應當的事情，如“發展經濟”，如“改造自然”，人類在這些口號下面所做一切是否真正合乎人文即文明的要求? 手邊有許倬雲教授的書，其中有句感慨：就地球生態系統而言，人類其實就是地球的癌症! 離家不到二十公里處，有孟諾教派聚居的村落，年年月月似在頑強提醒：你們對大自然撏剝得太多了吧? 是否該停停腳步，認真注視一下“再生”和“可持續”的一番道理，讓人類且慢且慢，勿要作得太過?

今世之世，各國同志——叔伯姻親血濃於水也好，相距萬里八杆子打不着的也算——為保護人權，已訂立公約；為保護環境，已訂立公約；為防止大規模殺戮，也有了公約。准此精神，在研發製造人工智能領域，一定也要有個公約（須作為國際法的一部分，只是關於和平使用人工智能的自願協議之類則無約束力）以為警束，預先禁絕這個新生事物無限製發展，終至於戕賊人類，終至於摧毀地球。

製造人工智能，必須遵守人類道德。此意拳拳，幸毋河漢視之。

相關鏈接：馬斯克：人工智能安全問題比朝鮮危險得多!