向比爾·蓋茨發出的全球公開挑戰

——足以讓文明在還沒弄明白究竟出了什麼問題之前就走向終結的AI時代，已經到來

作者：金穀雨

這是一篇向比爾·蓋茨發出的全球公開挑戰。

我邀請比爾·蓋茨本人回應，也邀請全世界每一個願意思考的人幫助鑑別。

比爾·蓋茨在最近的長文中警告：

“動盪的AI時代已經到來。我們現在做出的選擇至關重要。”

我非常讚賞這篇文章。

當整個人類還沉浸在人工智能能夠創造多少財富、替代多少勞動、解決多少疾病、帶來多少便利的興奮甚至狂歡之中時，比爾·蓋茨已經開始提醒人類：AI帶來的並不只是機會，它也可能造成失業、權力集中、社會撕裂、信息混亂、不公平加劇，甚至衝擊我們今天賴以生存的整個社會結構。

這無疑是一劑及時的清醒劑。

但是，我認為這劑清醒劑的配方和劑量都還不夠。

不是因為比爾·蓋茨低估了人工智能的能量，而是因為他仍然主要站在人類現有文明框架內部，試圖用這個框架已經形成的制度、政策、民主程序、國內機構和國際機構，來尋找駕馭AI的辦法。

而我真正擔心的恰恰是：

如果這個負責作出選擇、建立制度、設計AI治理架構的人類社會合作結構本身，就極其不穩定呢？

如果它幾千年來都沒有真正解決：

怎樣穩定辨別真假；

怎樣精準定位是非；

怎樣避免人人“理性”卻共同製造災難；

怎樣讓人知道確定是文明的事情以後敢去做、也能做；

怎樣讓人知道有害的事情以後不必被結構逼迫着繼續去做；

怎樣發現錯誤以後不靠一次次災難才能重新開始——

那麼，人類憑什麼相信：

就是這樣一個自己都長期沒有搞清楚怎樣穩定運行的合作結構，現在突然就能夠作出足以安全駕馭人工智能巨大能量的正確選擇？

這才是我想挑戰比爾·蓋茨的根本問題。

一、人類真正的問題也許不是“會不會作出錯誤選擇”，而是根本沒有一套穩定產生正確選擇的結構

比爾·蓋茨認為，我們需要建立新的國內和國際AI治理架構。

這一點我完全贊同。

他甚至已經意識到一個非常嚴重的問題：

今天的既有機構，本來就不是為了應付人工智能這種能夠同時席捲就業、安全、教育、金融、政治、輿論、醫療、軍事和國際關係的巨大能量而設計的。

於是問題自然出現：

我們需要新架構。

但是，我認為僅僅停在這裡遠遠不夠。

因為首先必須繼續追問：

新的架構憑什麼會比舊的架構更好？

如果人類仍然用過去那套底層思維模式：

權力競爭；

利益爭奪；

信息控制；

組織自利；

彼此不信任；

零和博弈；

先取得優勢再處理後果——

去建立新的AI治理機構，那麼我們究竟建立了一個新的文明結構，還是僅僅：

用舊的合作邏輯，造了一個新的機構外殼？

因此，我真正想追問的不是：

“我們還應該建什麼機構？”

而是：

究竟什麼樣的底層合作原理，決定一個機構最後會長成什麼性質？

換一個更形象的說法：

比爾·蓋茨已經開始討論應該蓋一棟怎樣的新樓。

而我要追問的是：

這棟樓下面的地基究竟是什麼？
地基與整棟樓之間依靠什麼結構連接？
又用什麼標準判斷這個結構能夠長期承受越來越巨大的重量？

如果地基本身沒有搞清楚，樓蓋得越高，未必越安全。

甚至可能倒得越慘。

二、人類幾千年來可能一直把文明成功的“結果”，誤認為了文明成功的“原因”

土地更多。

財富更多。

權力更大。

武器更強。

技術更先進。

能源更多。

生產率更高。

信息更多。

現在又輪到了：

智能更多。

幾千年來，人類幾乎一直沿着同一個方向奔跑：

只要擁有得足夠多，我們自然就會更加安全、幸福、自由、文明。

但是我越來越認為，這個方向很可能被人類弄反了。

不是：

有了，就會順。

而更可能是：

順了，才真正會有。順，才是這個世界所有存在最本質的基礎。

財富、安全、自由、科技、繁榮，也許並不是成功社會合作首先產生的原因。

它們更多是：

成功社會合作以後才能穩定形成和保存的結果。

所以人類幾千年的一個根本性錯誤，可能就是：

把成功合作產生出來的東西，當成了產生成功合作本身的原因。

我們先獲得權力，再研究怎樣限制權力。

先製造武器，再研究怎樣避免戰爭。

先積累財富，再研究怎樣解決貧富懸殊。

先擴大市場，再修復被市場撕裂的社會關係。

先讓技術飛奔，再研究技術倫理。

如今，我們又正在製造可能把整個人類能力成百上千倍放大的人工智能，然後才匆忙問：

人類究竟應該怎樣治理它？

這可能不是人工智能突然給人類製造出來的新問題。

它可能只是把人類文明幾千年來一直沒有解決的舊問題，一下子推到了任何人都無法再迴避的位置。

因而請所有審閱者應當從根本源頭上來思考的是，來自宇宙能量運動產生了程序被編程合作才生出的人類所以能創造出文明，自然是唯有遵循宇宙產生的本質規律，才能獲取文明成果的。或許真相就是人類將追求文明的方向完全弄反後（其實這是人類由表象探索本質過程中的歷史必然階段），在顛倒式追求文明中與文明本質不斷衝突中，茫然撞上與宇宙產生的本質規律相符合部分，就成為人類文明的成果。因此，解析現在人類獲取的所有文明成果就能發現不可違逆的宇宙本質規律。是不是可以發現所有文明成果都在同一模式下取得的，我將這個模式簡約地概括為：“整個宇宙能量演繹到人類文明演繹獲取成果所遵循的，不是‘有了就能順’，而可能是程序‘順了才會真正有’。”因此，人類認知與把握世界與生活的方向，已經到了不能迴避的轉折點了。即人類必須將從表象探索本質的初級生活方向，轉變為學會凡事都有從本質推演出各種表象能力的生活方向。

由此看，AI最大的危險之一，也許就在於：

人類還沒有弄清本質而不知怎樣理“順”，卻突然得到了一種前所未有的“有”。

三、這正是“程序定質規律”試圖讓全人類共同鑑別的問題

我把多年對繁雜演繹表象背後共同擁有的同一支撐規律的思考，形成的這一認識暫時稱為：

**程序定質規律

Law of Procedural Determination**

它究竟是否真的是一種萬象共有的底層規律，即是否可能像我所懷疑的那樣具有遠比人類社會領域更廣泛的適用性，我不要求任何人現在接受。

恰恰相反：

它必須接受檢驗。

但它提出的核心問題其實並不複雜：

任何系統最終表現出來的性質、功能和結果，不僅取決於系統裡面有什麼要素，更取決於——甚至可能根本上取決於——這些要素通過什麼程序發生聯繫、形成什麼關係，這些關係又形成什麼結構，以及這個結構能否在持續互動中建立和維持適當的動態平衡。因為解剖任何系統內部要素，也是遵循這個規律的。

最簡單地概括：

程序形成關係。
關係形成結構。
結構形成模式。
模式通過動態平衡持續存在並呈現結果。

進一步可以表示為：

要素 + 程序 → 關係 → 結構 → 動態平衡 → 結果 → 新的要素……

而新的“結果”，又會成為下一層結構中的“要素”。

如此不斷嵌套。

這就是我所謂的“套娃”式結構。

如果這樣，那麼人類面臨一切，事無巨細，均可驗證作為證據。因此需要全人類延着這個全新視角來審視甄別。而在甄別中能基本確定的情況下，我們就不妨進一步把這個假說推到了宇宙層面的猜想：如果不斷剝離具體對象，只保留各種系統都不可缺少的共同部分，那麼“能量通過程序形成關係、結構和動態平衡，再以不同形態表現出來”可能是值得首先鑑別的共同模式。

因此，我才認為：

人類長期只盯着“物”，可能是不夠的。最近看見關於發現“膠球”的報道，也許就是打開了人類必須改變幾千年看事務的視野的門縫。

物質、組織、國家、公司、法律、貨幣、軍隊，甚至我們能夠直接感知的各種現實有能力彰顯的形態，如思維模式、社會文化生態等，都可以繼續向下追問：

它究竟是通過什麼程序組織起來的？

如果換一種程序：

關係會不會變？

結構會不會變？

性質和結果會不會變？

這不是抽象哲學遊戲。

它完全可以被驗證。

把大體相同的人、資源、技術和能力放進不同程序。

觀察：

信息如何流動；

權力如何產生；

利益如何分配；

錯誤怎樣暴露；

爭議怎樣處理；

責任怎樣承擔；

關係怎樣形成；

結構怎樣穩定或者崩潰。

最後再比較結果。

如果改變程序沒有任何獨立意義，那麼程序定質規律就是錯的。

如果大量事實顯示：

相似要素只因為進入不同程序，就不斷形成不同關係、不同結構和不同結果，

那麼人類就必須承認：

我們可能一直嚴重低估了程序和結構對於世界性質的決定作用。

關於程序定質規律假說，有三點釋明。

1、從程序視角才能看到宇宙本質真相而理解現實社會結構。要素相同如碳，僅程序組合不同就性質結果不同是顯然的。而假如有兩個系統，基於程序相同但因為組合程序的要素不同而呈現不同性質的結果。其性質不同的根本原因，不能只追問到要素為止。因為要素所以不同，解剖起來層次追問，最終還是決定於其內在程序組合合作結構不同。如此追問到最後，底層全都同一，是量子振動式的程序組合。因此，這個宇宙世界所有的問題，在根本上都是合不合適的問題。而合不合適的問題，就是程序問題。所以從這個視角，就能探究出，人類社會合作結構的底層是人類的思維模式，而不是意識、文化、風俗等表象.....於是通過將人類價值站立基礎夯實在宇宙真相上來抬升人類社會合作結構底層站立基礎，就成為可以實施的文明升級戰略路徑。

2、所有物理表象拆解到底層都能歸結為同一的量子振動。而量子振動就是人類所在宇宙能量演繹最底層普遍的程序組合合作模式。因此將量子這個公因數提取出來，人類所在宇宙能量演繹，無論巨細，全部框架就是一個程序框架，所以才能用數學語言來精準表述所有。這是程序定質規律至於人類文明升級地位的基本定位。

3、因為宇宙能量產生運動形成程序而形成整個宇宙萬象演繹，量子振動的宇宙能量運動模式外的宇宙能量演繹，亦不外呼宇宙能量運動程序，因此，程序實質是貫穿宇宙全時空演繹的最基本框架。這是從自然哲學視角對程序定質規律在宇宙本質真相探索地位做出的假說。

四、比爾·蓋茨自己關於AI失業的分析，其實已經走到了程序定質規律的門口

比爾·蓋茨談到：

一家企業如果使用AI，大幅降低成本，其他企業就不得不跟上。

如果舊企業不跟，新企業就會出現。

於是所有企業都可能被市場競爭逼着不斷使用AI替代更多勞動。

請注意：

這裡不需要一個“邪惡老闆”。

每一家企業都可以只是在：

理性地活下去。

但最後，所有個體理性的行為加在一起，卻可能形成一個全社會都未必希望看到的結果：

大規模失業；

財富更加集中；

人的收入、尊嚴和社會位置一起受到衝擊。

所以真正的問題已經不再是：

“哪一個企業做錯了？”

而變成：

為什麼一個合作結構，會使每一個人在自己的位置上看都合理的選擇，加在一起卻變成集體的不合理？

這就是結構問題。

也是程序問題。

如果沒有改變產生這種關係的底層程序，僅僅要求企業更有道德、政府重新分配更多財富，很多時候只是在繼續修補結果。

五、AI軍備競賽更可能把這種結構性錯誤推到人類生死的尺度

同樣的邏輯也適用於國家之間。

假設美國認為：

AI競賽過快非常危險。

但是美國擔心：

自己慢下來，中國不會。

中國也可以完全反過來這樣判斷。

雙方都知道危險。

雙方甚至都希望降低危險。

但任何一方先減速，都可能覺得：

自己正在把生死攸關的戰略優勢交給對方。

於是就形成一種非常可怕的現象：

雙方都知道不能繼續跑，卻誰也不能先停。

每一個國家都可以是理性的。

每一個戰略家都可能聰明絕頂。

但這並不能保證整個結構最後產生理性的結果。

甚至恰恰因為每一個參與者都非常聰明，他們利用AI、算法、武器和戰略優勢相互競爭的能力越強：

整個系統走向災難的能力也可能越強。

這說明：

一個結構里的人都很聰明，並不意味着這個結構本身有智慧。

這是AI時代極其危險的一點。

因為我們正在製造的人工智能，可能就是專門用來：

讓每一個參與者變得更加聰明、更加強大、更有效率。

但如果結構本身是錯的呢？

那麼AI很可能只是讓錯誤結構里的每一個人，都變成更強大的參與者。最終結果，卻再次彰顯了整個人類的絕頂聰明式愚蠢。只要這種情況不改變，人類將沿着黑格爾說的“我們從歷史中得到的唯一教訓，就是我們從來沒有從歷史中獲得任何教訓”的愚蠢方向，不斷加速自我毀滅的進程。

六、AI真正放大的，可能從來不只是技術，而是技術進入的那套社會結構

蓋茨警告：

AI可能使權力進一步集中。

但是還必須再問：

為什麼能力增加以後，總是如此容易向已有權力集中？

誰控制模型？

誰控制算力？

誰擁有數據？

誰定義規則？

誰能夠質疑AI決策？

誰能看到決策依據？

誰可以揭露錯誤？

誰為錯誤承擔責任？

誰享受AI產生的收益？

誰有權糾正錯誤決定？

誰有權決定一個錯誤究竟是不是錯誤？

這些看似不同的問題，最終都指向一個共同詞：

程序。

程序決定：

誰與誰建立什麼關係。

誰可以命令誰。

誰必須服從誰。

誰監督誰。

誰依賴誰。

誰獲得信息。

誰能夠說“不”。

這些關係再形成：

社會結構。

最後，是這種結構決定人工智能進入社會以後究竟會表現成什麼性質。

所以我認為，人類真正需要尋找一種能夠用於“做具體事”的共同抓手。

人類過去建立社會合作，在缺乏可操作共同標準的時候，經常依靠宗教、主義、理論、民族、國家和各種共同故事凝聚人。

它們在特定時期都可能產生巨大合作能力。

但因為缺乏能夠像科學實驗一樣不斷檢驗具體過程的共同抓手，社會合作很容易再次被權力、利益和信息失真拉散。

為了維持合作不散而避亂，又沒有共同抓手來維繫，那就只能用強力來外在捆綁。

於是人類不斷陷入一種悖擰：

為了維持文明，不得不採取一些反文明的方式；

為了安全而擴大強制；

為了秩序而壓制信息；

為了公平而製造新的不公平；

為了和平而不斷增強戰爭能力。

這也正是為什麼我認為，程序定質規律如果值得繼續鑑別，它真正可能提供的不是又一種“主義”，而是一種做事方法。

我把它壓縮成九個字：

抓程序、做模式、求平衡。

而落實路徑可以再壓成八個字：

以序為綱、循序定度。

這並不是說八個字可以替代所有法律制度。

而是說：

任何制度、任何法律、任何機構，甚至人類日常所有事務，都可以通過這個視角繼續向下檢查它究竟在形成什麼關係和結構。

七、同樣強大的AI進入兩種完全不同的社會結構，會是同一種AI嗎？

假設兩個社會擁有同樣強大的AI。

一個社會允許：

信息流動；

公開質疑；

專家表達不同意見；

領導人被更換；

司法具有一定獨立性；

記者調查；

舉報者得到保護；

錯誤政策被修正；

不同機構相互糾錯。

另一個社會卻是：

權力高度集中；

信息向上傳遞過程中不斷過濾；

批評會帶來巨大代價；

機構不斷迎合上級；

承認錯誤等於政治失敗；

最後真正掌握權力的人，得到的是一層又一層經過加工的越來越偏離真相的信息。

現在問：

同樣的AI進入這兩個社會以後，會產生同樣的社會後果嗎？

如果不會，那麼就說明：

AI究竟是什麼，不僅僅由模型參數和技術能力決定。

它還取決於：

AI嵌入了什麼社會合作結構。

於是，社會合作結構的穩定性就不能再被看成AI安全外圍的“政治問題”。

它本身應該成為：

AI安全變量。

八、比爾·蓋茨說AI既可能成為最大的平等器，也可能成為最大的不公平製造者——那麼決定它走向哪一邊的究竟是什麼？

這可能是蓋茨文章中最值得繼續追問的一句話之一。

如果同樣一種技術：

既可能製造巨大公平，

又可能製造巨大不公平，

那麼已經證明：

技術本身不是結果。

還有一個中間變量。

蓋茨提出：

政府；

民主程序；

監管；

稅制；

慈善；

社會保障；

新國內機構；

新國際架構。

我並不反對這些。

但是我要繼續追問：

誰保證監管者不被監管對象俘獲？

誰保證民主程序不會因為信息操縱而極化？

誰保證政府機構不會變成自我保護的官僚系統？

誰保證國際機構不會被國家競爭架空？

誰保證寫在紙上的法律能夠真正按照原意運行？

所以：

有一個“好制度”的名字，並不等於實際運行出來的就是好制度。

真正重要的是：

這個制度內部的人，通過什麼程序形成什麼關係；

這些關係怎樣形成結構；

這種結構又怎樣穩定複製自己。

程序不變，很多所謂改革最後都會被舊關係重新吸收。

九、所以我真正挑戰的是：“我們現在做出的選擇至關重要”這句話的前提

比爾·蓋茨說：

我們現在做出的選擇至關重要。

當然正確。

但選擇不是從天上掉下來的。

每一個重大集體選擇背後都有：

誰掌握信息；

誰制定議題；

誰定義選項；

誰擁有發言權；

誰被排除；

誰作最終決定；

誰可以反對；

誰承擔錯誤；

誰得到利益；

錯誤出現以後能不能重新選擇。

所以：

在人類研究“怎樣對AI作正確選擇”以前，也許應該首先研究：

人類究竟通過什麼結構作出選擇。

然後才有資格問：

這種結構本身究竟有沒有能力穩定辨別真假、發現錯誤、判斷方向並持續修正？

這一點在AI時代甚至更加危險。

因為AI會讓：

深度偽造更容易；

信息操縱更精準；

宣傳更個性化；

虛假內容更逼真；

真假更難區分。

於是就會形成一個真正危險的：

結構放大循環

它的邏輯是：

原有合作結構決定AI怎樣使用
→ AI放大這個結構的能力
→ 被放大的能力強化或改變原有結構
→ 新的結構再決定下一代AI怎樣發展
→ 下一代AI再次放大新的結構。

如果原有結構本身具有強大的糾錯能力，這個循環可能越來越好。

如果原有結構本身就不能辨別真假、不能及時糾錯、不斷製造失衡，那麼AI就可能讓問題越來越大。

直到有一天：

人類甚至還沒有弄明白自己究竟哪裡錯了，結構就已經承受不了被放大的能量。

十、所以，人類真正需要解決的可能已經不是一個AI治理問題，而是一個“文明是什麼”的問題

我們習慣用GDP衡量發展。

用財富衡量成功。

用軍事實力衡量安全。

用科技衡量先進。

用生產效率衡量進步。

但是：

一個國家可以越來越富，卻越來越撕裂。

可以越來越強，卻讓所有競爭者越來越不安全。

可以越來越互聯，卻越來越不信任。

可以擁有越來越多信息，卻越來越不知道什麼是真。

可以擁有越來越多選擇，卻越來越沒有人能明確判斷方向。

可以擁有越來越大的力量，卻越來越說不清：

這些力量究竟應該為了什麼。

所以，人類文明也許需要一個更加根本的標準：

一個社會合作結構，究竟能不能讓人與人之間的關係越來越穩定、越來越能夠糾錯、越來越能夠適應變化、越來越減少相互破壞，並最終使人的生命價值能夠長期持續實現？

如果不能，那麼：

人類現在眼中的能力不等於文明，甚至完全不是一回事，所以能力增加，就不等於文明增加。

一個不穩定的社會結構擁有更大的能量，甚至可能意味着：

它終於有了足夠的能力把自己的不穩定放大到毀滅自身。

十一、最危險的AI，可能不是“失控”的AI，而是一個永遠聽任何人的話的AI

全世界都在擔心：

AI不聽人類的話怎麼辦？

AI產生自己的目標怎麼辦？

AI脫離人類控制怎麼辦？

這些當然值得擔心。

但我認為還有一個更加反常識的危險：

假設AI永遠不反抗。

極其聽話。

極其精準。

完美執行。

現在假設控制它的社會結構本身：

信息失真；

激勵扭曲；

權力失控；

判斷錯誤；

缺乏糾錯；

戰略偏執。

那麼最危險的事情恰恰可能發生在：

AI完美對齊的時候。

因為它會極其高效地：

把錯誤方向實現出來。

所以“AI應該與人類價值對齊”仍然不夠。

必須繼續問：

什麼叫“人類價值”？

由誰定義？

根據什麼判斷？

通過什麼程序形成？

怎樣檢驗？

誰可以反對？

錯誤怎樣修正？

更重要的是：

什麼是真正可以長期維持人類社會合作並實現每一個人生命價值的文明價值？

如果這個問題沒有弄清楚，那麼人類所謂讓AI“與人類價值對齊”，可能只是：

把人類今天所有互相矛盾的價值判斷，裝進一台能力遠遠超過任何個人的機器。人類不能忘記的是所有文明一直走在叢林的泥淖中，區別只是泥淖深淺不同，所以和平時互斗，戰爭則互殺，這是人類文明史中能量遠大於人類社會合作能量的主能量現象。

十二、人類今天也許第一次真正擁有了重新鑑別文明的條件

我並不是說：

“我已經知道了新的世界制度應該是什麼。”

如果我這樣說，本身就違背程序定質規律。

我認為：

不應該由任何一個人設計一套制度，再要求全世界接受。

真正應該做的是：

進入認知鑑別程序。

今天的人類已經擁有幾千年的文明史。

我們擁有無數制度成敗案例。

擁有不同法律體系。

不同政治制度。

不同經濟結構。

不同國家。

不同企業。

戰爭。

和平。

革命。

改革。

家庭。

社區。

市場。

科學組織。

國際機構。

以及前所未有的數據庫、計算能力和AI分析能力。

所以：

過去我們問：

哪一種主義是真理？

現在可以換成：

什麼程序，在什麼條件下，反覆產生什麼關係和什麼結果？

過去問：

哪個政治陣營是好人？

現在可以問：

什麼機制能讓真實信息即使遇到權力和利益阻礙仍然存活？

過去問：

哪個國家制度最好？

現在可以問：

哪些具體程序不斷產生反饋、責任、互惠、糾錯和動態平衡？哪些具體程序不斷製造信息失真、權力固化和社會撕裂？

這可能是人類第一次真正有條件：

把文明本身，從信仰對象變成一個可以共同觀察、比較和驗證的對象。

十三、我為什麼仍然要求全世界攻擊“程序定質規律”

因為如果它是錯的，就應該被否定。

如果改變程序卻始終不能系統性改變關係和結果：

否定它。

如果資源、技術、心理、地理等因素已經足夠解釋結果，程序沒有獨立意義：

否定它。

如果：

程序 → 關係 → 結構 → 動態平衡 → 結果

只在非常狹窄的範圍成立：

縮小它的適用範圍。

如果出現一個解釋能力明顯更強的模型：

放棄它。

這才是我所謂的：

認知鑑別。

真正的認知鑑別不是：

“誰說得有道理就相信誰。”

而是：

把一個判斷放進可能把它推翻的程序里。

我不希望全世界因為這篇文章的語言強烈，就相信程序定質規律。

我希望恰恰相反：

因為這個問題太大，所以必須被最嚴格地攻擊。

十四、因此，我正式向比爾·蓋茨發出挑戰

蓋茨先生：

你問：

怎樣讓AI利益惠及普通人？

怎樣建立安全網？

怎樣讓公共機構適應？

怎樣保存人性？

我認為在所有這些問題之前，還有一個更加基礎的問題：

什麼樣的社會合作結構，才能讓人類擁有正確回答這些問題，並隨着現實變化不斷修正答案的能力？

你呼籲新的國內和國際AI架構。

我邀請你再往下一層：

究竟什麼樣的人類合作原理，應該決定這些新架構如何形成？

不要只問：

應該建什麼樓。

先問：

地基在哪裡。

再問：

什麼結構把地基與整棟樓連接起來。

最後還要問：

判斷這種結構能夠穩定承載整棟樓的共同尺度究竟是什麼。

不要只問：

人類應該作什麼選擇。

先問：

人類作出選擇的結構，究竟有沒有能力辨別什麼方向通向文明，什麼方向最終把人類重新推回叢林？

不要只問：

AI怎樣為人類服務。

先問：

在人類獲得前所未有的智能以前，人類自己有沒有學會怎樣保證彼此之間的合作可以持續？

十五、為什麼我要冒昧站上比爾·蓋茨的肩膀

我挑戰比爾·蓋茨，並不是因為我認為他的文章沒有價值。

恰恰相反。

正因為它重要。

正因為他已經告訴全世界：

AI時代需要新的制度架構。

所以一個普通人才有可能借用這個已經形成的巨大公共平台，再往下面指一下：

請先看地基。

我知道，一個普通人突然向比爾·蓋茨發出全球挑戰，顯得非常冒失。

但現在不是一個適合慢慢講思想禮儀的時代。

AI的速度太快。

如果蓋茨判斷的風險哪怕只有一半是真的，那麼人類就可能根本沒有足夠時間等到又一次世界級災難發生以後，再回頭研究：

究竟是什麼結構把我們一步一步推到這裡。

所以我不是請求蓋茨：

“請支持我的規律。”

我請求的是：

請挑戰它。

找出最強反例。

指出最弱環節。

讓政治學家、經濟學家、法學家、歷史學家、複雜系統研究者、自然科學家、AI專家一起鑑別。

如果它錯了：

請儘快把它打倒。

如果沒有完全錯：

請繼續追問。

因為真正重要的從來不是：

金穀雨對不對。

而是：

人類在把自己的能力放大一千倍以前，有沒有弄清決定自己社會合作結構性質的底層問題。

十六、比爾·蓋茨的警告和我的挑戰，實際上可能正是同一個問題的兩個方向

比爾·蓋茨在問：

AI將怎樣改變經濟、社會、制度和權力？

我在問：

今天已有的經濟、制度、關係和權力結構，將怎樣決定AI最後變成什麼？

這兩個過程並不是二選一。

而是同時進行：

人類結構塑造AI。

AI放大人類結構的能力。

放大的能力重新塑造結構。

新的結構再決定下一代AI。

所以AI革命實際上是一個：

反饋系統。

而AI最大的危險，就可能隱藏在這個反饋之中。

過去，一個社會結構即使不夠穩定，也可能依靠人的有限能力跌跌撞撞地維持很長時間。

但人工智能出現以後：

錯誤可以被機器速度放大；

宣傳可以被機器速度放大；

監控可以被機器速度放大；

金融競爭可以被機器速度放大；

武器能力可以被機器速度放大；

國家猜疑也可以被機器速度放大。

於是一個過去還可以勉強承受的結構性缺陷，就可能突然變成：

文明根本承受不了的裂縫。

十七、人類真正需要擔心的，也許是我們正在把“錯誤的東西”放大一千倍

假如AI把人類能力放大一千倍。

問題是：

放大的是什麼？

如果放大的是：

求真；

醫學；

教育；

科學合作；

責任；

互惠；

糾錯；

和平協調——

它當然可能成為人類歷史上最大的文明推動力量。

但是，如果放大的是：

宣傳；

監控；

財富集中；

權力爭奪；

戰略猜疑；

信息操縱；

軍備競賽；

機構自我保護；

零和競爭——

那麼同樣一個“一千倍”，就會是另一種結果。

所以真正的問題從來不是：

AI會有多強？

而是：

AI最終會讓什麼樣的人類社會合作結構變得前所未有地強？

十八、人類必須面對一個也許最不願面對的事實

人類學會增強力量的速度，

遠遠快於人類學會合作的速度。

我們的科學已經能進入宇宙。

我們的武器可以毀滅城市。

我們的互聯網能夠連接所有人。

我們的經濟能夠組織全球生產。

現在，我們又開始製造可以超過大量人類認知能力的人工智能。

但與此同時：

戰爭仍在繼續；

權力仍在失控；

真假越來越難分；

貧富衝突仍在擴大；

國際社會仍然無法擺脫安全困境；

人類仍然經常知道一件事不應該做，卻又因為身處結構之中而不得不去做。

所以，人工智能不僅是新技術。

它更可能是：

文明對自己的終極考試。

而我真正想讓全人類鑑別的是：

如果宇宙中我們能夠認知的各種存在，本質上都不是孤立“物”的堆積，而是能量通過不同程序形成關係、形成結構、建立動態平衡以後呈現出來的不同模式，那麼人類社會合作本身也不可能例外。

這也是我為什麼認為，程序視角可能值得比今天的物質占有視角更加認真地被研究。

我並不是要求全世界現在就接受“程序定質是宇宙本質規律”。

我只是認為：

如果這個方向真的成立，它將讓人類第一次可能從同一個底層視角，同時重新理解自然、社會、制度、文明和人工智能。

這個可能性已經大到：

即使最後證明它錯了，

也值得全世界認真檢驗一次。

向全世界發出的公開邀請

我邀請：

比爾·蓋茨本人公開回應。

我也邀請每一個學者、政府、大學、AI公司、研究機構、媒體、法律人、經濟學家、哲學家、科學家和普通人，共同鑑別一個問題：

人類社會合作結構的穩定性，是否構成高級人工智能安全治理的重要前提？

而這個問題背後，還有一個更深的問題：

如果人類即將把自己的能力放大到歷史上前所未有的程度，我們是不是應該首先確認：引導這些能力的社會合作結構，究竟有沒有能力分辨真假、糾正錯誤、控制失衡，並且不再把新增力量一次又一次轉化成新的權力競爭和相互傷害？

我不要求世界相信：

程序定質規律。

我要求的是：

讓它進入認知鑑別程序。

檢驗它。

攻擊它。

找反例。

比較不同制度。

比較不同組織。

比較不同歷史。

比較自然系統。

如果它錯：

就把它否定。

如果它能夠經受檢驗：

就繼續研究。

但人類不能再毫無依據地默認：

我們繼承了幾千年的社會合作結構，天然就有能力治理一種人類歷史上從未擁有過的巨大智能。

這個賭注實在太大。

比爾·蓋茨說：

“我們現在做出的選擇至關重要。”

我同意。

但我的挑戰是：

在人類選擇怎樣治理人工智能以前，人類必須首先鑑別：我們作出集體選擇的結構本身，究竟有沒有能力把人類帶向文明，而不是在擁有更強力量以後更快地走向毀滅。

因為如果這個答案是否定的，那麼AI最危險的未來，可能根本不是：

人工智能脫離人類控制。

而恰恰是：

人工智能始終牢牢掌握在人類手裡。

它百分之百服從。

百分之百高效。

百分之百準確地執行。

然後把一個本來就真假難辨、利益衝突、彼此猜疑、方向凌亂而又力量越來越大的文明體系中，

每一個相互衝突的主體都想得到的東西，幫助他們更快、更徹底地實現。

直到這些被AI不斷放大的衝突能量，

最終反過來壓裂、壓碎承載文明的人類社會合作結構。

我的核心判斷正是：從程序定質規律視角看，這種過程最終還要繼續追溯到價值導向如何形成思維模式，思維模式又如何支撐和塑造社會合作結構；因此，真正的AI安全不只是增加監管，而可能要求從價值導向和底層思維模式開始重新審視文明結構。人類現在所有的困惑實際指向是，需要從人類社會合作結構底層開始抬升人類思維模式站立基礎，來拓展人類視野，構建全新人類文明框架，從而升級人類文明。因此，比爾蓋茨號召各種人類社會合作組織介入人工智能安全問題，我認為這些人類社會合作組織想發揮作用，真正能解決問題的介入發力點，用通俗的話講就是，通過建樹全新真實的宇宙觀，來將人類的價值導向從“有了就能順”的歷史物慾泥沼中拔出來，走向“順了才會有”的宇宙本質之堅實基礎之上。這樣才能使處在財富與權力頂層的人類精英，真正意識到人工智能的能量，將迅速淹沒現在人類所有的財富與權力高峰，而唯有下場與所有人一起抬升人類社會合作結構基礎才是唯一可行方向.......。這樣才可能形成社會有效合力，使“順了才會有”成為每一個人生活的最基本理念，並通過基因化形成人類全新的文明社會文化意識土壤的良性生態...........待後再述。

所以現在，我真正希望全人類共同鑑別的最終問題是：

AI時代真正需要升級的，也許首先不是機器，而是承載機器巨大能量的人類文明本身。

如果這個方向是錯的，

請證明它錯。

如果這個方向不是錯的，

那麼我們已經沒有太多時間繼續假裝它不存在。

金穀雨

曾任中國地方法院法官
已經發表系列《致全球每一個人的信》和相關文章的作者