科幻小說常常警示我們，要畏懼那些我們無法掌控的智能機械。事實上，我們真正需要害怕的，是那些需要我們控制但我們還沒能力把握的智能機器。

　　從愛國者導彈到特斯拉汽車，再到Airbus噴氣式飛機，自動化系統如今已造成不少人員傷亡。它們並沒有惡意，只是在災難到來之前，我們沒能及時把設備從“被動監控”切換到“主動控制”而已。

　　究竟什麼時候該提起警惕？有時候，一天裡有23小時59分鐘都是無需在意的，唯獨那麼1分鐘是致命的關鍵。2003年，自動化的愛國者導彈防禦系統出現失誤，擊落了兩架友機。這一切發生的太快，以至於我們還沒來得及阻止，就已經結束了。

　　2009年，法國航空447號航班由里約熱內盧飛往巴黎。一名年輕的副駕駛正操控着飛行設備，機長這時將飛機交給自動化駕駛系統，並把位置讓給了另一位年長的副駕駛，準備稍微打個盹。突然，空速指示器被凍住了。這原本只是一個小故障，但它導致了自動駕駛儀數據的缺失，人工智能系統繼而陷入“兩眼一抹黑”的境地。

　　於是，自動駕駛系統脫軌了，並將指揮棒立馬交回駕駛員手中。由於切換來的突如其來，駕駛員們甚至還沒做好準備。各種警報聲響起，恐慌不斷瀰漫，駕駛員來不及判斷究竟發生了什麼，更沒意識到他們此時的大腦空白將引發怎樣的後果。直到飛機失速、墜落並消失於汪洋大海，駕駛員們都沒能找出正確的應對措施。

　　最終，447號航班上的228人無一倖免。這是自動駕駛系統的錯麼？但系統完全是按照設定程序運作的。這是駕駛員的錯麼？機組人員明顯缺乏態勢感知，但是，當一個人連續幾個小時都處於休息狀態時，我們又如何能期待他高效地解決突發危機？

　　人們總愛通過自動化設備拯救自己的不足，殊不知這是把自己推向了另一個深淵。法航447便是人工智能和人類智慧共同導致的一場災難，在這次事件中，人們就沒能成功接下智能設備遞出的指揮棒。除此之外，還有一種情況也會產生難以想象的後果，那就是自動化系統沒有在必要時候卸下控制權，而人類也反應遲鈍地聽從設備的安排。

　　打個比方，最近新出的步槍自動瞄準系統能幫助士兵成功擊中目標，然而，一旦系統失去控制，我們又習慣性地相信瞄準設備的判斷，會不會有可能出現誤傷甚至誤殺的情況呢？

　　不要妄想裝備人工智能後，就可以不用大腦了。我們是人工智能的主人，不是它們的奴隸。愚蠢的頭腦配上高級的自動化系統，只會產生可怕的災難。我們需要的是相互信任、依賴的人工智能機器。在使用人工智能的同時，我們還得保證人的參與度，保持人的創造性和判斷力，這樣方能減少犯錯的可能性。