一名中國前法官因Anthropic前研究人員發出的AI滅絕風險警示，向全球各國政府、政要及人類各社會合作組織發出的公開信

——請求人類共同研究和實驗文明升級的戰略方向：誰敢保證，未來不會有人利用AGI發動一次針對全人類的“9·11”？

致全球各國政府、政治領導人、國際組織、學術機構、大學、媒體、宗教組織以及一切能夠影響人類社會合作方向的人類精英們：

據公開報道，Jacob Coxon曾先後在 OpenAI 和 Anthropic 從事人工智能預訓練研究。2026年9月，他辭去Anthropic的工作，並通過X公開警告，真正參與最前沿人工智能研發的一些研究人員，正在嚴肅擔憂人工智能可能在非常短的時間內給整個人類帶來生存級風險。

Anthropic現任alignment研究負責人 Evan Hubinger 隨後也公開回應，基本確認了Coxon所描述的一個重要事實：在最接近前沿AI研發的人群中，對人工智能導致人類滅絕風險的擔憂，並不是單純的媒體炒作。

我反覆思考以後，決定不再讓自己的全部注意力僅僅囿於一日三餐，而寫出這封公開信。

我希望提出一個請求：

人類是否應該儘快促成一次真正面向全球的國際會議，共同討論：人工智能安全最終不可突破的底線究竟是什麼？

而在討論這個問題時，我尤其希望全世界認真甄別另一個可能更加前置的問題：

高級人工智能的安全問題，是否首先取決於承載和使用它的人類社會合作結構本身是否穩定、可持續？

如果答案可能是“是”，那麼人類現在需要研究的，也許不只是怎樣約束AI，而是：

我們是否必須首先研究、檢驗乃至實驗一種能夠支撐高級人工智能時代的、更穩定和可持續的人類社會合作結構？

一、我為什麼會提出這個問題

我的筆名是金穀雨，曾任中國地方法院法官。

過去二十多年，我一直從法律、制度、司法和社會合作運行的現實出發，追問一個問題：

為什麼人類建立的社會合作結構，總是如此難以真正穩定和可持續？

國家會興衰。

制度會異化。

法律會在實施過程中偏離原來的目的。

社會會在繁榮之後重新陷入衝突。

國際合作會反覆被戰爭和競爭撕裂。

人類幾千年來不斷建立新的合作結構，卻又不斷經歷失序、衝突、瓦解和重組。

我們擁有越來越多的知識、財富、制度和技術，但人類社會合作本身似乎始終沒有真正擺脫這種周期性的脆弱。

我因此逐漸形成了一個假說。

我暫時把它稱為：

“程序定質規律”假說

The Procedural Determination Hypothesis

其最簡要的表達是：

程序塑造關係，關係塑造結構，而結構幫助決定實體和系統最終呈現的性質與結果。

換句話說，一個系統最後表現成什麼樣子，可能並不僅僅取決於它“擁有什麼要素”，而更深刻地取決於：

這些要素怎樣運動；

怎樣發生關係；

怎樣交換資源；

怎樣組成結構；

以及這個結構能否持續形成相對穩定的動態平衡。

這只是一個假說。

但如果它具有普遍解釋力，那麼它帶來的問題就非常重大。

二、如果這個假說接近事實，人類文明真正的梗阻可能在哪裡

我越來越懷疑：

如果程序、關係、結構與動態平衡確實構成系統穩定存在的重要基礎，那麼人類文明長期以來也許存在一個非常深的認知錯位。

人類往往把已經形成的“實體結果”當作觀察世界、追求價值和設計社會的出發點與目標。

我們追逐：

財富；

權力；

地位；

資源；

機構；

制度；

技術；

乃至各種已經形成的觀念和理論成果。

但如果這些都只是某種更深層程序、關係和結構運行以後產生的結果形態，那麼人類長期把結果當原因、把表象當基礎，那就是本末倒置看問題，就可能不斷製造新的衝突。

在這種情況下，也許很多真正的文明成果，恰恰來自那些衝突中被現實規律糾正的部分。

於是，人類獲得的文明成果，只是被真相規律糾正了的大量“真相碎片”，卻始終缺乏一個能夠把這些碎片穩定連接起來的底層框架。

人類因此可能長期生活在一個：

真假難辨、是非難明、局部合理而整體失序的泥沼之中。

如果這個判斷成立，那麼AI問題就會出現完全不同的意義。

因為人工智能並不是在一個已經完成文明升級的社會裡誕生的。

它是在：

競爭；

互疑；

權力博弈；

財富競爭；

國家安全焦慮；

信息不對稱；

真假混雜；

相互防範

所共同組成的人類社會結構中成長起來的。

那麼，我們必須問：

一個在人類“叢林式合作結構”中訓練、競爭和部署出來的超級智能，首先會放大文明，還是首先放大這個叢林結構本身？

三、這就是我真正擔心AI的原因

為什麼AI對人類的衝擊可能是致命的？

因為AI正在一個人類尚未真正學會：

抓程序、做模式、求平衡

的世界裡成長。

而我暫時用這九個字概括自己假說中對文明的最簡單理解：

抓程序、做模式、求平衡。

也可以再進一步概括文明行為的實施路徑：

以序為綱，循序定度。

如果“程序—關係—結構—動態平衡”確實是一個系統安全穩定的基礎，那麼所謂文明，其深層含義可能就是：

首先識別程序；

然後建立能夠持續合作的程序組合模式；

最後維持適當的程序組合合作動態平衡。

但今天的人類還遠遠沒有做到這一點。

我們甚至還不能穩定地解決國家之間、群體之間、機構之間以及個人之間的合作。

就在這個時候，我們卻正在製造一種可能擁有遠超任何個人、機構乃至國家現有能力的人工智能。

這就是我真正擔憂的地方：

我們可能正在把千百倍於過去的能力，安裝到一個自己尚未弄清怎樣穩定運行的文明結構之中。

能力不會自動產生文明。

能力只會首先放大它所進入的結構。

一個穩定、可糾錯、能夠合作的結構，可能利用AI放大文明。

一個互斗、互害、互疑和相互防範的結構，也可能利用AI放大互斗、互害和毀滅。

四、所以AI安全不能只問“怎樣控制AI”

隨着人工智能迅速發展，我把自己二十多年持續思考的問題進一步具體化為：

人類社會合作結構的穩定性，是否構成安全治理高級人工智能的重要前提？

如果答案是肯定的，那麼今天許多AI安全討論可能還缺少一層。

現在我們主要研究：

模型是否可控；

是否能夠alignment；

AI是否會欺騙；

是否能夠自主複製；

是否可以獲得危險工具；

如何設置技術護欄；

怎樣監管開發公司。

這些當然極其重要。

但它們可能仍然沒有回答一個更前置的問題：

究竟是什麼樣的人類結構，在控制這些人工智能？

因為即使未來出現一個完全服從人類指令的AI，也不能自動證明文明是安全的。

如果控制AI的人類社會結構本身充滿：

錯誤信息；

失衡權力；

短期利益；

激勵錯位；

軍備競爭；

相互猜疑；

無法糾錯的程序，

那麼，一個“完全聽話”的超級人工智能，甚至可能因為太有效地服從這些結構，而變得極其危險。

真正危險的AI，也許並不一定首先表現為：

AI擺脫了人類控制。

它也可能表現為：

AI仍然處在人類控制之下，卻把一個本來就不穩定的人類結構想要做的事情，執行得前所未有地有效。

五、我不要求任何人相信“程序定質規律”

我必須特別說明：

我沒有資格把這個假說宣布為已經成立的科學規律。

我提出它，只是因為在我長期獨立觀察和思考中，我越來越懷疑：

人類所能覺知的一切自然和社會對象，都可能存在一個共同的觀察入口——

它們最終都必須通過某種運動程序形成關係，通過關係形成結構，並通過動態平衡維持相對穩定的存在。

如果這個視角真的接近宇宙和現實運行的共同邏輯，那麼它就應當具有一個最重要的特徵：

可以被檢驗。

如果是錯的，就應該被否定。

如果存在反例，就應該把反例找出來。

如果有更好的理論，就應該由更好的理論替代。

所以，我真正希望的並不是別人接受我的結論。

恰恰相反：

我請求科學界和全人類共同幫助批評它、尋找反例、檢驗它，甚至證明它是錯誤的。

只有經過這樣的認知鑑別程序，它才有資格繼續存在。

六、因此，我向不同的人類社會合作主體提出以下請求

我向全球媒體呼籲：

請判斷這封公開信提出的問題是否值得傳播。

如果一個來自AI研發內部的警告，已經涉及人類可能滅絕，那麼媒體的責任也許不只是報道“誰辭職了”，而應該繼續追問：

人類到底應該怎樣組織自己，才能安全擁有這種力量？

我向各國政府呼籲：

政府是當前最有能力啟動大規模社會合作行動的組織之一。

請考慮推動一次真正面向全球的國際會議，專門討論：

高級人工智能時代不可突破的文明安全底線是什麼？

並把這樣一個問題列入討論：

社會合作結構的穩定與可持續性，是否屬於AI安全本身的一部分？

我向全球政治領導人與政治從業者呼籲：

政治本身就是組織社會合作的行業。

如果AI真正可能改變國家、戰爭、經濟、勞動和權力，那麼政治領導人的歷史責任，就不能僅僅是爭奪誰先掌握AI，而應當包括：

怎樣讓整個人類有能力安全地承載AI。

我向國際組織、宗教組織和所有跨國社會合作組織呼籲：

請共同甄別：

人類能否從研究穩定可持續合作結構入手，為長期和平甚至永久和平找到一條新的可檢驗道路？

我尤其向大學、科學院、研究機構和科學家呼籲：

請從科學和學術層面檢驗一個問題：

人類思維模式是否本身也是一種程序性的能量與信息運行模式？

人類的價值判斷立場，是否決定了這種程序如何組織關係？

而一個文明的社會合作結構，是否正是這些思維程序經過無數次互動之後形成的宏觀結構？

如果這個鏈條能夠被實證研究，那麼：

AI治理問題，也許最終能夠和人類認知、制度設計、複雜系統、物理學、信息科學以及社會科學重新連接起來。

七、我為什麼尤其希望所有看到這封信的人幫助傳播

我沒有龐大的研究機構。

沒有政治資源。

沒有傳媒平台。

也沒有足夠的信息傳播條件。

我現在能夠做的，只是寫出來。

所以我請求任何看到本文、並認為這個問題值得討論的人：

如果有能力，請幫助翻譯；

如果有渠道，請轉發給政府；

請轉發給大學；

請轉發給AI研究機構；

請轉發給戰略研究機構；

請轉發給國際組織；

請轉發給媒體；

請轉發給能夠真正檢驗這個問題的人。

我自己也會在能夠找到公開聯繫方式的情況下，把本文作為附件，逐步寄給各國政府、政治領導人、研究機構和相關社會合作組織。

我不要求他們相信我。

只請求：

請看一眼這個問題，然後檢驗它。

八、為什麼一個中國前法官會走到這裡

我長期生活在社會基層，也長期觀察中國法律、制度和社會運行。

二十多年來，我一直每年都屢屢曾向中共中央及全國人大常委會、國務院、最高人民檢察院、最高人民法院、中紀委、政法委等機構寫信。

我一直希望提出一個觀察：

中國社會長期存在的許多治理困難，也許並不僅僅屬於某個政黨、某個領導人或某個時代。

它們可能來源於一個更加深層的社會合作結構問題。

甚至中國共產黨自己公開承認過的許多歷史錯誤，如果從社會合作結構的角度重新研究，也未必應當簡單理解為：

“某一群人做錯了事情。”

更值得研究的是：

什麼樣的程序、關係和結構，會讓聰明的人不斷作出局部合理、整體卻可能失序的選擇？

這個問題不只屬於中國。

它屬於整個人類。

區別也許只是：

不同社會的合作結構不穩定程度不同。

我過去一直建議中共中央：

不要只討論抽象理論。

選擇一個具體的小司法案件，像“解剖麻雀”一樣，把：

事實；

法律；

政策；

利益；

信息；

權力；

責任；

司法程序；

申訴監督程序

全部放在一張桌子上，看看到底是哪一個環節開始發生關係錯位。

如果這個觀察是錯誤的，現實案例就可以證明它錯誤。

如果現實案例真的能夠顯示：

程序改變關係，關係改變結構，結構改變結果，

那麼就獲得了一個非常重要的現實研究入口。

九、我也再次請求中共中央查閱我此前提交的材料

今年7月，我曾向中共中央呈送：

《關於建議圍繞一起基層司法案件開展專題調研並研究相關社會合作結構問題的請示》

相關郵政特快專遞信息為：

2026年7月6日，北京寄出：
1200105301313

2026年7月9日，長沙寄出：
1271262011601

2026年7月11日，武漢寄出：
1368673655581

該信附件中還包括我於2025年10月25日寄給最高人民法院院長的一封長信，建議最高法院依法審查相關基層司法案件，並在適當情況下將其中呈現出的制度運行問題作為研究材料。

該郵件EMS編號為：

1237325929802

我再次提出這些信息，不是要求任何人先相信我的判斷。

我仍然只有同一個請求：

請用現實材料檢驗。

十、在2026年9月11日，我想讓全人類再問一次“9·11”的問題

今天是9月11日。

二十五年前的“9·11”告訴人類：

極少數人的意圖，一旦獲得足夠的技術和組織能力，也能夠製造震撼全世界的災難。

而現在，人類正在進入AGI時代。

如果未來AGI的能力真的超過單個人、機構甚至很多國家今天能夠調動的能力，那麼問題就不再只是：

AI自己會不會毀滅人類？

還有另一個同樣重要的問題：

誰能保證，未來永遠不會有一個人、一個組織或者一個極端狀態中的決策者，利用AGI，在人類意料之外的某個領域能夠有能力製造一次針對全人類的“9·11”？

今天的核武器至少仍然依賴龐大的國家基礎設施。

但如果AI讓過去只有國家才能完成的事情，逐漸變成一個小團隊甚至個人也可以完成的事情呢？

如果人類合作結構仍然處於相互競爭、相互恐懼、相互報復的叢林邏輯之中，那麼：

我們究竟憑什麼確信，更強大的能力一定會帶來更安全的文明？

這就是我真正希望全世界停下來想一想的問題。

十一、在人類文明的十字路口，也許我們應該第一次真正“向上看”

我在《致全球每一個人的信》系列文章中，一直試圖表達一個判斷：

人類離開了物理意義上的自然叢林，卻可能仍然生活在由自己的思維模式構成的“意識叢林”之中。

如果我們仍然從：

財富；

權力；

勝負；

占有；

競爭

來確定價值的起點，

那麼我們擁有越強大的技術，未必意味着文明越高級。

所以在人類文明走到今天這個十字路口時，我提出一個最簡單的建議：

不要再像過去歷史的選擇一樣，只朝左右看，而是這次能向上看。

把人類價值判斷的站立基礎抬高一點。

把視野擴大一點。

不要只問：

我們還能獲得多大的力量？

先問：

我們究竟準備把這些力量交給什麼樣的人類合作結構？

如果AI把人類能力放大一百倍、一千倍，

那麼：

它最終會把什麼樣的人類結構放大一百倍、一千倍？

這也許才是AI時代最值得首先回答的問題。

我不知道我提出的“程序定質規律”是否正確。

我甚至希望真正的科學研究能夠明確指出我錯在哪裡。

但在人類可能正在接近一個不可逆轉的文明轉折點時，

我認為至少有一個問題值得全人類認真檢驗：

穩定、可持續的人類社會合作結構，是否是安全進入AGI時代的必要前提？

如果不是，

請證明它不是。

如果是，

那麼：

人類也許應該在全力升級機器之前，先開始升級承載機器的文明。

金穀雨

曾任中國地方法院法官
《致全球每一個人的信》系列作者
於2026年9月11日