再說我關於SI必然毀滅人類的警示，與所有警示的區別，以及人類怎樣覺醒

（本文的英文文本可在網上搜索中題目：《Once More on How My Warning That SI Will Inevitably Destroy Humanity Differs from Other Warnings—and How Humanity Can Awaken》，希望凡有緣閱讀人盡力將本文翻譯成其它文字，在各種媒體上傳播。）

寫完《一名中國前高級法官致特朗普總統的公開信兼致所有人類精英》和《寫在我暫時放下筆之前：人類也許需要把價值的錨，從“物”移向“程序”》之後，我想，既然還有一點能夠自由說話的時間，就還應當再把一個問題說得更簡明一些：

為什麼我關於SI的警示，與現在世界上幾乎所有關於SI風險的警示，都不一樣？

以及：

為什麼我認為，人類面對SI真正需要做的，不只是給SI加更多限制，而是人類自己必須先覺醒？

我知道，這樣的話很容易讓人覺得過於宏大。

但我仍然要說。

因為在我的認識里，人類迄今為止幾乎所有思想、制度和理論努力，本質上都在做同一件事：

不斷修補一個早已建立起來的文明框架。

這個框架的社會合作鏈接不斷斷裂，於是人類不斷修補；

衝突擴大，就再修補；

修補不住，就崩塌；

崩塌以後，再重建。

戰爭與和平反覆輪迴，制度不斷更替，理論不斷更新，文明成果越來越豐富，但那個最根本的問題始終沒有解決：

為什麼人類已經如此聰明，合作結構卻始終無法穩定、可持續地運行？

為什麼一個人即使已經成為世人眼中的成功者，一生仍然可能走得異常艱難？

為什麼一個社會即使擁有大量財富、技術和制度資源，也依然無法預測下一場巨大衝突什麼時候出現？

為什麼全人類擁有的文明成果越多，能夠用於互相傷害的能量反而越大？

從我所提出的課題來看，答案並不神秘。

只是因為：

人類自從開始構建文明框架以來，就一直把這個框架建立在宇宙本質真相演繹出來的碎片和漂浮表象之上，而沒有把文明的基礎真正夯實在宇宙本質真相之上。

基礎沒有對齊，框架當然不穩。

框架不穩，往上搭建的社會合作鏈接就不可能穩定可持續。

於是，人類一方面創造文明，一方面又不斷親手衝垮文明。

所以我真正想說的，並不是再給現有人類文明增加一個新的理論補丁。

我想問的是：

我們是不是應該回到地基，重新確定文明的坐標原點？

如果這個基礎原點能夠重新對齊，那麼人類長期以來在叢林中互斗互害、反覆崩塌重建的文明歷史，就可能真正結束。

人類才有可能從低級的叢林文明，進入穩定、持續、彼此合作的高級文明。

所謂世界和平，也才可能不再只是願望。

一、我與現在大多數SI風險討論，首先就不站在同一個觀察維度

今天世界討論SI風險，大多討論什麼？

討論SI會不會失控；

會不會欺騙人；

會不會形成自己的目標；

會不會取代人的工作；

會不會被壞人利用；

會不會控制武器；

會不會突破人類設置的邊界。

這些問題當然都值得討論。

但在我看來，它們討論的仍然主要是：

SI進入現有人類社會合作結構以後，會在這個結構內部產生什麼後果。

而我想討論的是這個社會合作結構本身。

如果大家都承認，人類文明之所以能夠產生，是因為人比其他動物更善於合作，那麼真正創造和維持文明的，就不是某一件物，不是某一種制度名稱，也不是某一台機器，而是：

人類的社會合作模式。

再往下一層追問：

究竟是什麼在驅動社會合作模式？

我認為，是人的思維模式。

所以，在我的認識里，SI真正危險的地方，並不首先位於人類社會合作結構的表面，而位於這個結構最底層的驅動機制：

人類自身的思維模式。

這就是為什麼我與現在大量SI討論雖然談的是同一個SI，卻常常像在說兩件完全不同的事情。

因為站立的基礎坐標不同。

今天人類習慣於把自己、人類社會、人類文明，都放在我們眼前這個已經形成的社會框架中來研究。

而我試圖把人本體、人類思維、人類合作以及文明本身，重新放回一個更大的背景里：

放回宇宙能量運動產生程序、程序形成組合合作模式、再由這種組合合作不斷演繹萬象的整體時空背景中。

一旦觀察位置發生改變，看到的結構就完全不一樣。

人類思維模式是什麼；

社會合作模式是什麼；

社會文化意識生態是什麼；

文明為什麼會不斷重建又不斷崩塌；

SI為什麼會在今天出現如此巨大的能量；

這些概念的內涵和相互關係，都會重新被定位。

這不是在同一個坐標圖上爭論一條線畫在哪裡。

而是在問：

我們畫這張圖時，坐標原點是不是一開始就放錯了地方。

二、坐標不同，智能、智慧乃至SI本身的含義都會發生變化

坐標體系不同，解析世界的模態也就不同。

哪怕使用的是同一個詞，含義都可能不完全一樣。

例如：

智能。

智慧。

今天，人們常常把兩者混在一起使用。

但如果從程序組合合作的角度去看，我認為它們並不是同一個層次的概念。

在宇宙能量運動產生程序，並進一步形成程序組合合作模式的過程中，

我理解的“智能”，更接近於：

一個既定時空範圍內的程序組合合作框架，對外吸收、加工和釋放能量的能力量級。

而“智慧”，則更接近於：

這種能量交換在更大時空範圍內，能否按照動態平衡的原則形成穩定、可持續的程序合作能力。

智能可以非常強。

但智能強，並不天然意味着智慧高。

一套系統可以極其高效地完成目標，卻未必知道這個目標進入更大關繫結構以後，會不會摧毀整個系統賴以存在的動態平衡。

所以在我的認識里，

SI可以擁有極高的智能，卻並不因此必然產生人類意義上的意識，更不必然產生智慧。

這個問題這裡暫時不展開。

我只是想說明：

如果最底層坐標不同，那麼對SI的判斷自然也會不同。

三、我真正警示的不是“SI可能攻擊人類”，而是：SI即使完全服從人類，也可能加速人類自我毀滅

這才是我與很多SI危險論最不同的地方。

我並不需要假設SI產生惡意。

也不需要假設它突然覺醒以後決定消滅人類。

甚至可以反過來假設：

SI極其聽話。

人類讓它做什麼，它就高效地做什麼。

那麼問題反而來了：

今天的人類究竟會讓它幫助我們做什麼？

人類建立在“物”為基礎坐標上的文明框架，發展到今天，實際上仍然沒有真正走出叢林規則。

回顧整個人類歷史，有一個現象已經足夠明顯：

文明成果越大，人類相互衝擊時能夠調動的能量也越大。

石器時代的人，再憤怒，能造成的破壞有限。

工業革命以後，人類互相毀傷的能力已經完全不同。

核能出現以後，情況更發生了根本變化：

人類第一次擁有了可以把整個文明帶到毀滅邊緣的能力。

也就是說，

科學技術並沒有自動讓人類的社會合作模式同步變得文明。

自然科學在改善生活方面取得了巨大成就。

但是在人類社會合作中，那些真假難辨、是非難定、利益衝突、制度斷裂、戰爭輪迴的問題，並沒有因為科學進步而自行消失。

相反，

文明成果越強，人類舊思維模式擁有的破壞力就越強。

那麼，SI來了以後會怎樣？

如果SI繼續被嵌入今天這種以“物”的獲得、控制、占有、比較、勝負為核心價值坐標的文明體系，

它最先放大的是什麼？

當然不是抽象的“人類整體幸福”。

它首先放大的，一定是每一個已經存在的目標。

國家希望更強，它幫助國家更高效競爭；

企業希望占領市場，它幫助企業更高效競爭；

個人希望獲取更多財富，它幫助個人更高效行動；

集團希望擴大影響，它幫助集團更精準地組織資源。

於是，人類過去所有在低智能時代已經存在的叢林競爭，

將在SI時代被成百倍、成千倍地放大。

而這一次，與核武器還主要掌握在少數國家和少數人手中完全不同。

SI的力量，很可能會深入到幾乎每一個社會領域，甚至越來越深入到每一個普通個體手裡。

這意味着什麼？

意味着人類第一次可能進入這樣一個時代：

每個人原本有限的叢林生存能力，都可能被一個極高智能系統放大。

那麼，哪怕世界上沒有所謂“壞人”，

哪怕SI自己沒有任何惡意，

哪怕所有人都只是在追逐自己認為正常合理的目標，

也沒有任何人能夠保證：

在人類繼續相互競爭、相互防範、相互放大的過程中，不會有人在病毒、生物工程、網絡、自動控制、武器、能源或者某一個今天根本還想不到的領域裡，把一種毀滅性能量開發出來；

更沒有人能夠保證，

這種能量永遠不會因為一次判斷錯誤、一次競爭失控、一次程序漏洞、一次誤操作，

在SI加持下被瞬間釋放出來。

所以我提出的警示，與“AI失控毀滅人類”並不是同一種警示。

我真正警示的是：

SI即使沒有失控，人類也可能因為SI太高效地服務於自己未經升級的舊思維模式，而更快地走向自我毀滅。

這是兩個完全不同的問題。

四、人類為什麼始終走不出叢林？因為離開了物理叢林，卻進入了意識叢林

人類曾經生活在物理意義上的叢林裡。

後來，人類靠合作創造文明，走出了原始叢林。

但我越來越認為：

我們只是走出了物理叢林，卻沒有走出叢林本身。

因為人的思維並沒有統一對齊於宇宙本質真相。

每個人仍然站在自己能夠感知、理解和占有的真相碎片上，建立自己的價值體系。

每個人都像在一塊漂浮的碎片上種起一棵自己的思維之樹。

無數棵樹彼此交錯、遮擋、衝突，

最後形成了一個比物理叢林複雜得多的：

意識叢林。

我們今天所謂文明中的大量爭論，其實都發生在這片意識叢林裡。

每個人都認為自己看到的是真相。

每個人又都只看到了真相的一部分。

於是，人人看似有理，

卻永遠無法真正對齊。

這就是為什麼，同樣聰明的人討論同一個問題，常常會雞同鴨講。

不是誰一定不聰明。

而是他們的基礎坐標沒有對齊。

基礎坐標不一樣，越聰明，甚至可能跑得越遠。

所以我所說的人類覺醒，並不是一個神秘詞彙。

所謂覺醒，我的理解只有一句話：

換一個文明坐標系來看世界。

把今天以“物”為原點的文明坐標，

向以“程序”為原點的坐標移動。

因為“物”只是程序演繹之後的結果。

如果總是從結果倒着尋找真相，人類就只能在表象之間不斷比較、爭論、衝撞。

如果從程序出發，

事情就會簡單很多。

一個制度叫什麼，不重要；

它按照什麼程序運行，重要。

一個人說什麼，不重要；

他的行為進入什麼關係程序，重要。

一個社會擁有多少資源，不是最根本；

這些資源按照什麼合作程序進行組合，才決定結果。

一個文明創造多少強大技術，也不是最根本；

這些技術進入什麼程序結構，最終決定它們是資源，還是災難。

所以人類真正的覺醒就是：

看清真相。

看清真相以後，第一性起點才能對齊。

起點對齊，合作才能真正溝通。

溝通能夠對齊，事情才可能做對。

否則，人類就永遠像一群在黑暗裡各摸到大象不同部位的人，

誰都堅信自己正確，

誰也說服不了誰，

最後一邊爭論，一邊把整頭大象撕碎。

五、從認知上說，人類今天其實已經非常接近覺醒，只差重新放置那個坐標原點

我認為，人類今天要完成這種認知轉向，反而並不像過去那麼困難。

因為需要的文明材料，其實已經全部在我們手裡。

現代科學的發展；

數學；

量子研究；

系統科學；

信息科學；

計算機；

人工智能；

以及整個人類幾千年的文明歷史，

已經提供了大量事實。

我們缺的，也許並不是更多碎片。

而是：

把這些碎片從另一個起點重新排列。

那個起點其實也並不陌生。

甚至可以說，

人類創造幾乎所有文明成果時，都已經在無意識地使用它。

這個起點就是：

程序。

一架飛機為什麼能夠飛？

不是因為我們擁有一堆金屬。

而是因為無數要素按照正確程序形成了合作，並與流體能量運動程序結合產生的程序效果走向了人類希望達到的方向。

一台計算機為什麼能夠運算？

不是因為硅本身突然擁有智慧。

而是因為程序關係被精確組織。

人體為什麼能夠存在？

也不是因為把一堆細胞堆在一起就形成一個人。

而是因為無數程序在動態平衡中持續合作。

人類文明真正成功的每一個地方，

其實都在遵循同一個事實：

程序順，合作才能形成；合作形成，價值才會出現。

所以我認為，這件事甚至並不需要幾百年才能甄別。

如果全世界真正有能力的人坐到一起，

召開一次嚴肅的國際學術討論，

把人類已有的科學成果、歷史事實和社會運行實例重新從這個坐標上進行比對，

“程序是不是世界演繹中人類能夠抓住的更第一性的基礎坐標”，

並不是一個無法討論的問題。

它完全可以被批判。

可以被檢驗。

也可以被證明錯。

我提出的“程序定質規律”，如果錯了，就請證明它錯。

如果只在有限範圍成立，就把邊界劃出來。

如果它確實觸碰到了某種被人類長期忽略的底層規律，

那麼就應當把它從一個普通人的思考，變成人類共同甄別的問題。

六、真正困難的，不是看見新坐標，而是擺脫舊坐標的慣性

真正困難的地方並不在理論本身。

而在人。

人類幾千年來一直以“物”為價值坐標原點生活。

這是五官天然幫助我們形成的。

我們看見財富。

看見土地。

看見權力。

看見輸贏。

看見誰強誰弱。

這些東西太直接。

太真實。

也太符合生命的本能。

所以，即使有一天人類在理性上明白：

價值真正能否穩定出現，取決於背後的程序合作是否形成動態平衡，

人類仍然未必能夠立刻改變。

因為改變一個人的思想容易，

改變人類長期形成的思維模式很難。

中國人有一句話：

江山易改，本性難移。

我越來越認為，

所謂人的“本性”，很大一部分其實正是長期固化的思維模式在行為層面的表象。

所以，人類認知坐標真正要移動，

不能只靠少數人寫文章。

它需要人類精英先覺醒。

再由已經存在的人類社會合作組織，把新的認知方式傳播出去。

誰擁有這樣的社會推動能量？

政府。

國際組織。

教育機構。

宗教組織。

大學。

科學共同體。

各種社會組織。

而媒體，在這個過程中仍然承擔着一種特殊作用：

它決定什麼問題能夠進入全社會共同的注意力。

所以我不斷寫信。

不斷向政府、國際組織、人工智能領域人士和媒體發出信息。

並不是因為我相信自己一定正確。

而是因為：

如果我的判斷哪怕只有一部分正確，

那這個問題就不應該因為提出它的人沒有名氣、沒有機構、沒有傳播資源，而被整個世界錯過。

七、SI留給人類的時間，也許並沒有我們想象的那麼多

我最後仍然要回到警示本身。

為什麼我如此急？

因為人類現在討論SI，很多時候仍然把它當作：

一項更強大的新技術。

但在我的認識里，

SI真正帶來的不是一個普通技術變量。

它帶來的是：

人類個體和社會所有既有程序能量的巨大放大器。

如果先放大的是文明，

它會成為文明歷史上最偉大的工具。

如果先放大的是叢林，

它就會成為叢林歷史上從未出現過的力量。

所以真正的時間順序非常重要。

究竟是：

先讓SI百倍、千倍放大每個人已經存在的叢林本能，再去想辦法治理；

還是：

在人類得到這種巨大能量以前，先完成思維模式與宇宙底層支撐規律的對齊。

這兩個順序，可能決定的是完全不同的未來。

我擔心的正是：

人類正在選擇第一個順序。

技術在以越來越快的速度向前推進。

而人的思維模式，仍然被幾千年形成的舊坐標牢牢鎖住。

如果SI先進入這個結構，

它就不是在一個已經完成文明升級的人類社會裡成長，

而是在今天這個仍然充滿國家競爭、利益衝突、身份對立、資源爭奪和戰爭風險的意識叢林裡成長。

那麼，

它首先增強的，也必然是這個叢林。

所以，我再次發出這個警示：

人類真正需要防範的，不只是SI失控。

更危險的，是人類自己不覺醒，卻獲得了SI。

SI可能極其服從。

極其忠誠。

極其高效。

但如果它忠誠服務的仍然是一個沒有完成價值坐標升級的叢林文明，

那麼它的忠誠本身，都可能成為危險。

所以，所謂SI安全對齊，

在我看來不能只有一半。

不能只是：

讓SI對齊人類。

還必須同時完成另一件事：

讓人類的思維模式，對齊宇宙本質真相。

先把人類文明的地基夯實。

再讓SI的巨大能量進入。

這才是真正的安全保障。

否則，當SI開始成百倍、成千倍地加持每一個普通人的舊有叢林本性以後，人類還能不能在那場有人本能稱之為“地獄級震盪”的文明衝擊中留下足夠的倖存者，

我不敢樂觀。

我甚至認為，

概率很小。

所以我還在說。

還能說一天，

就再說一天。

還能把警報傳出去一次，

就再傳一次。

不是因為我認定自己一定正確。

而是因為如果這件事真的涉及整個人類未來，那麼即使只有萬分之一值得認真甄別，

人類也沒有理由連看都不看。

SI不會等我們慢慢想清楚。

程序不會停止運行。

歷史也不會因為人類還沒有準備好，就暫停演繹。

真正需要暫停一下、重新看看自己腳下站在哪裡的，

也許恰恰是我們人類自己。

當每個人類思維模式站立在雜亂漂浮的表象“物”上，人類就陷在意識叢林中。

當每個人類的思維模式都對齊夯實在文明本質真相的九個（中國）字上：“抓程序、做模式、求平衡”，而人人做事都能“以序為綱、循序定度，”則定序方能“因序明度，”做事方能“循序守度”，監督反饋能“沿序明度”，整個社會“序清度明”，人類文明演進則“鑒序正度”而可持續......世界永久和平實現，說起來就這麼簡單。這就是我依據我的“程序定質規律”假說提出請全人類甄別所希望的。

作者：金穀雨，系列《致全球每一個人的信》等相關文章作者