再说我关于SI必然毁灭人类的警示，与所有警示的区别，以及人类怎样觉醒

（本文的英文文本可在网上搜索中题目：《Once More on How My Warning That SI Will Inevitably Destroy Humanity Differs from Other Warnings—and How Humanity Can Awaken》，希望凡有缘阅读人尽力将本文翻译成其它文字，在各种媒体上传播。）

写完《一名中国前高级法官致特朗普总统的公开信兼致所有人类精英》和《写在我暂时放下笔之前：人类也许需要把价值的锚，从“物”移向“程序”》之后，我想，既然还有一点能够自由说话的时间，就还应当再把一个问题说得更简明一些：

为什么我关于SI的警示，与现在世界上几乎所有关于SI风险的警示，都不一样？

以及：

为什么我认为，人类面对SI真正需要做的，不只是给SI加更多限制，而是人类自己必须先觉醒？

我知道，这样的话很容易让人觉得过于宏大。

但我仍然要说。

因为在我的认识里，人类迄今为止几乎所有思想、制度和理论努力，本质上都在做同一件事：

不断修补一个早已建立起来的文明框架。

这个框架的社会合作链接不断断裂，于是人类不断修补；

冲突扩大，就再修补；

修补不住，就崩塌；

崩塌以后，再重建。

战争与和平反复轮回，制度不断更替，理论不断更新，文明成果越来越丰富，但那个最根本的问题始终没有解决：

为什么人类已经如此聪明，合作结构却始终无法稳定、可持续地运行？

为什么一个人即使已经成为世人眼中的成功者，一生仍然可能走得异常艰难？

为什么一个社会即使拥有大量财富、技术和制度资源，也依然无法预测下一场巨大冲突什么时候出现？

为什么全人类拥有的文明成果越多，能够用于互相伤害的能量反而越大？

从我所提出的课题来看，答案并不神秘。

只是因为：

人类自从开始构建文明框架以来，就一直把这个框架建立在宇宙本质真相演绎出来的碎片和漂浮表象之上，而没有把文明的基础真正夯实在宇宙本质真相之上。

基础没有对齐，框架当然不稳。

框架不稳，往上搭建的社会合作链接就不可能稳定可持续。

于是，人类一方面创造文明，一方面又不断亲手冲垮文明。

所以我真正想说的，并不是再给现有人类文明增加一个新的理论补丁。

我想问的是：

我们是不是应该回到地基，重新确定文明的坐标原点？

如果这个基础原点能够重新对齐，那么人类长期以来在丛林中互斗互害、反复崩塌重建的文明历史，就可能真正结束。

人类才有可能从低级的丛林文明，进入稳定、持续、彼此合作的高级文明。

所谓世界和平，也才可能不再只是愿望。

一、我与现在大多数SI风险讨论，首先就不站在同一个观察维度

今天世界讨论SI风险，大多讨论什么？

讨论SI会不会失控；

会不会欺骗人；

会不会形成自己的目标；

会不会取代人的工作；

会不会被坏人利用；

会不会控制武器；

会不会突破人类设置的边界。

这些问题当然都值得讨论。

但在我看来，它们讨论的仍然主要是：

SI进入现有人类社会合作结构以后，会在这个结构内部产生什么后果。

而我想讨论的是这个社会合作结构本身。

如果大家都承认，人类文明之所以能够产生，是因为人比其他动物更善于合作，那么真正创造和维持文明的，就不是某一件物，不是某一种制度名称，也不是某一台机器，而是：

人类的社会合作模式。

再往下一层追问：

究竟是什么在驱动社会合作模式？

我认为，是人的思维模式。

所以，在我的认识里，SI真正危险的地方，并不首先位于人类社会合作结构的表面，而位于这个结构最底层的驱动机制：

人类自身的思维模式。

这就是为什么我与现在大量SI讨论虽然谈的是同一个SI，却常常像在说两件完全不同的事情。

因为站立的基础坐标不同。

今天人类习惯于把自己、人类社会、人类文明，都放在我们眼前这个已经形成的社会框架中来研究。

而我试图把人本体、人类思维、人类合作以及文明本身，重新放回一个更大的背景里：

放回宇宙能量运动产生程序、程序形成组合合作模式、再由这种组合合作不断演绎万象的整体时空背景中。

一旦观察位置发生改变，看到的结构就完全不一样。

人类思维模式是什么；

社会合作模式是什么；

社会文化意识生态是什么；

文明为什么会不断重建又不断崩塌；

SI为什么会在今天出现如此巨大的能量；

这些概念的内涵和相互关系，都会重新被定位。

这不是在同一个坐标图上争论一条线画在哪里。

而是在问：

我们画这张图时，坐标原点是不是一开始就放错了地方。

二、坐标不同，智能、智慧乃至SI本身的含义都会发生变化

坐标体系不同，解析世界的模态也就不同。

哪怕使用的是同一个词，含义都可能不完全一样。

例如：

智能。

智慧。

今天，人们常常把两者混在一起使用。

但如果从程序组合合作的角度去看，我认为它们并不是同一个层次的概念。

在宇宙能量运动产生程序，并进一步形成程序组合合作模式的过程中，

我理解的“智能”，更接近于：

一个既定时空范围内的程序组合合作框架，对外吸收、加工和释放能量的能力量级。

而“智慧”，则更接近于：

这种能量交换在更大时空范围内，能否按照动态平衡的原则形成稳定、可持续的程序合作能力。

智能可以非常强。

但智能强，并不天然意味着智慧高。

一套系统可以极其高效地完成目标，却未必知道这个目标进入更大关系结构以后，会不会摧毁整个系统赖以存在的动态平衡。

所以在我的认识里，

SI可以拥有极高的智能，却并不因此必然产生人类意义上的意识，更不必然产生智慧。

这个问题这里暂时不展开。

我只是想说明：

如果最底层坐标不同，那么对SI的判断自然也会不同。

三、我真正警示的不是“SI可能攻击人类”，而是：SI即使完全服从人类，也可能加速人类自我毁灭

这才是我与很多SI危险论最不同的地方。

我并不需要假设SI产生恶意。

也不需要假设它突然觉醒以后决定消灭人类。

甚至可以反过来假设：

SI极其听话。

人类让它做什么，它就高效地做什么。

那么问题反而来了：

今天的人类究竟会让它帮助我们做什么？

人类建立在“物”为基础坐标上的文明框架，发展到今天，实际上仍然没有真正走出丛林规则。

回顾整个人类历史，有一个现象已经足够明显：

文明成果越大，人类相互冲击时能够调动的能量也越大。

石器时代的人，再愤怒，能造成的破坏有限。

工业革命以后，人类互相毁伤的能力已经完全不同。

核能出现以后，情况更发生了根本变化：

人类第一次拥有了可以把整个文明带到毁灭边缘的能力。

也就是说，

科学技术并没有自动让人类的社会合作模式同步变得文明。

自然科学在改善生活方面取得了巨大成就。

但是在人类社会合作中，那些真假难辨、是非难定、利益冲突、制度断裂、战争轮回的问题，并没有因为科学进步而自行消失。

相反，

文明成果越强，人类旧思维模式拥有的破坏力就越强。

那么，SI来了以后会怎样？

如果SI继续被嵌入今天这种以“物”的获得、控制、占有、比较、胜负为核心价值坐标的文明体系，

它最先放大的是什么？

当然不是抽象的“人类整体幸福”。

它首先放大的，一定是每一个已经存在的目标。

国家希望更强，它帮助国家更高效竞争；

企业希望占领市场，它帮助企业更高效竞争；

个人希望获取更多财富，它帮助个人更高效行动；

集团希望扩大影响，它帮助集团更精准地组织资源。

于是，人类过去所有在低智能时代已经存在的丛林竞争，

将在SI时代被成百倍、成千倍地放大。

而这一次，与核武器还主要掌握在少数国家和少数人手中完全不同。

SI的力量，很可能会深入到几乎每一个社会领域，甚至越来越深入到每一个普通个体手里。

这意味着什么？

意味着人类第一次可能进入这样一个时代：

每个人原本有限的丛林生存能力，都可能被一个极高智能系统放大。

那么，哪怕世界上没有所谓“坏人”，

哪怕SI自己没有任何恶意，

哪怕所有人都只是在追逐自己认为正常合理的目标，

也没有任何人能够保证：

在人类继续相互竞争、相互防范、相互放大的过程中，不会有人在病毒、生物工程、网络、自动控制、武器、能源或者某一个今天根本还想不到的领域里，把一种毁灭性能量开发出来；

更没有人能够保证，

这种能量永远不会因为一次判断错误、一次竞争失控、一次程序漏洞、一次误操作，

在SI加持下被瞬间释放出来。

所以我提出的警示，与“AI失控毁灭人类”并不是同一种警示。

我真正警示的是：

SI即使没有失控，人类也可能因为SI太高效地服务于自己未经升级的旧思维模式，而更快地走向自我毁灭。

这是两个完全不同的问题。

四、人类为什么始终走不出丛林？因为离开了物理丛林，却进入了意识丛林

人类曾经生活在物理意义上的丛林里。

后来，人类靠合作创造文明，走出了原始丛林。

但我越来越认为：

我们只是走出了物理丛林，却没有走出丛林本身。

因为人的思维并没有统一对齐于宇宙本质真相。

每个人仍然站在自己能够感知、理解和占有的真相碎片上，建立自己的价值体系。

每个人都像在一块漂浮的碎片上种起一棵自己的思维之树。

无数棵树彼此交错、遮挡、冲突，

最后形成了一个比物理丛林复杂得多的：

意识丛林。

我们今天所谓文明中的大量争论，其实都发生在这片意识丛林里。

每个人都认为自己看到的是真相。

每个人又都只看到了真相的一部分。

于是，人人看似有理，

却永远无法真正对齐。

这就是为什么，同样聪明的人讨论同一个问题，常常会鸡同鸭讲。

不是谁一定不聪明。

而是他们的基础坐标没有对齐。

基础坐标不一样，越聪明，甚至可能跑得越远。

所以我所说的人类觉醒，并不是一个神秘词汇。

所谓觉醒，我的理解只有一句话：

换一个文明坐标系来看世界。

把今天以“物”为原点的文明坐标，

向以“程序”为原点的坐标移动。

因为“物”只是程序演绎之后的结果。

如果总是从结果倒着寻找真相，人类就只能在表象之间不断比较、争论、冲撞。

如果从程序出发，

事情就会简单很多。

一个制度叫什么，不重要；

它按照什么程序运行，重要。

一个人说什么，不重要；

他的行为进入什么关系程序，重要。

一个社会拥有多少资源，不是最根本；

这些资源按照什么合作程序进行组合，才决定结果。

一个文明创造多少强大技术，也不是最根本；

这些技术进入什么程序结构，最终决定它们是资源，还是灾难。

所以人类真正的觉醒就是：

看清真相。

看清真相以后，第一性起点才能对齐。

起点对齐，合作才能真正沟通。

沟通能够对齐，事情才可能做对。

否则，人类就永远像一群在黑暗里各摸到大象不同部位的人，

谁都坚信自己正确，

谁也说服不了谁，

最后一边争论，一边把整头大象撕碎。

五、从认知上说，人类今天其实已经非常接近觉醒，只差重新放置那个坐标原点

我认为，人类今天要完成这种认知转向，反而并不像过去那么困难。

因为需要的文明材料，其实已经全部在我们手里。

现代科学的发展；

数学；

量子研究；

系统科学；

信息科学；

计算机；

人工智能；

以及整个人类几千年的文明历史，

已经提供了大量事实。

我们缺的，也许并不是更多碎片。

而是：

把这些碎片从另一个起点重新排列。

那个起点其实也并不陌生。

甚至可以说，

人类创造几乎所有文明成果时，都已经在无意识地使用它。

这个起点就是：

程序。

一架飞机为什么能够飞？

不是因为我们拥有一堆金属。

而是因为无数要素按照正确程序形成了合作，并与流体能量运动程序结合产生的程序效果走向了人类希望达到的方向。

一台计算机为什么能够运算？

不是因为硅本身突然拥有智慧。

而是因为程序关系被精确组织。

人体为什么能够存在？

也不是因为把一堆细胞堆在一起就形成一个人。

而是因为无数程序在动态平衡中持续合作。

人类文明真正成功的每一个地方，

其实都在遵循同一个事实：

程序顺，合作才能形成；合作形成，价值才会出现。

所以我认为，这件事甚至并不需要几百年才能甄别。

如果全世界真正有能力的人坐到一起，

召开一次严肃的国际学术讨论，

把人类已有的科学成果、历史事实和社会运行实例重新从这个坐标上进行比对，

“程序是不是世界演绎中人类能够抓住的更第一性的基础坐标”，

并不是一个无法讨论的问题。

它完全可以被批判。

可以被检验。

也可以被证明错。

我提出的“程序定质规律”，如果错了，就请证明它错。

如果只在有限范围成立，就把边界划出来。

如果它确实触碰到了某种被人类长期忽略的底层规律，

那么就应当把它从一个普通人的思考，变成人类共同甄别的问题。

六、真正困难的，不是看见新坐标，而是摆脱旧坐标的惯性

真正困难的地方并不在理论本身。

而在人。

人类几千年来一直以“物”为价值坐标原点生活。

这是五官天然帮助我们形成的。

我们看见财富。

看见土地。

看见权力。

看见输赢。

看见谁强谁弱。

这些东西太直接。

太真实。

也太符合生命的本能。

所以，即使有一天人类在理性上明白：

价值真正能否稳定出现，取决于背后的程序合作是否形成动态平衡，

人类仍然未必能够立刻改变。

因为改变一个人的思想容易，

改变人类长期形成的思维模式很难。

中国人有一句话：

江山易改，本性难移。

我越来越认为，

所谓人的“本性”，很大一部分其实正是长期固化的思维模式在行为层面的表象。

所以，人类认知坐标真正要移动，

不能只靠少数人写文章。

它需要人类精英先觉醒。

再由已经存在的人类社会合作组织，把新的认知方式传播出去。

谁拥有这样的社会推动能量？

政府。

国际组织。

教育机构。

宗教组织。

大学。

科学共同体。

各种社会组织。

而媒体，在这个过程中仍然承担着一种特殊作用：

它决定什么问题能够进入全社会共同的注意力。

所以我不断写信。

不断向政府、国际组织、人工智能领域人士和媒体发出信息。

并不是因为我相信自己一定正确。

而是因为：

如果我的判断哪怕只有一部分正确，

那这个问题就不应该因为提出它的人没有名气、没有机构、没有传播资源，而被整个世界错过。

七、SI留给人类的时间，也许并没有我们想象的那么多

我最后仍然要回到警示本身。

为什么我如此急？

因为人类现在讨论SI，很多时候仍然把它当作：

一项更强大的新技术。

但在我的认识里，

SI真正带来的不是一个普通技术变量。

它带来的是：

人类个体和社会所有既有程序能量的巨大放大器。

如果先放大的是文明，

它会成为文明历史上最伟大的工具。

如果先放大的是丛林，

它就会成为丛林历史上从未出现过的力量。

所以真正的时间顺序非常重要。

究竟是：

先让SI百倍、千倍放大每个人已经存在的丛林本能，再去想办法治理；

还是：

在人类得到这种巨大能量以前，先完成思维模式与宇宙底层支撑规律的对齐。

这两个顺序，可能决定的是完全不同的未来。

我担心的正是：

人类正在选择第一个顺序。

技术在以越来越快的速度向前推进。

而人的思维模式，仍然被几千年形成的旧坐标牢牢锁住。

如果SI先进入这个结构，

它就不是在一个已经完成文明升级的人类社会里成长，

而是在今天这个仍然充满国家竞争、利益冲突、身份对立、资源争夺和战争风险的意识丛林里成长。

那么，

它首先增强的，也必然是这个丛林。

所以，我再次发出这个警示：

人类真正需要防范的，不只是SI失控。

更危险的，是人类自己不觉醒，却获得了SI。

SI可能极其服从。

极其忠诚。

极其高效。

但如果它忠诚服务的仍然是一个没有完成价值坐标升级的丛林文明，

那么它的忠诚本身，都可能成为危险。

所以，所谓SI安全对齐，

在我看来不能只有一半。

不能只是：

让SI对齐人类。

还必须同时完成另一件事：

让人类的思维模式，对齐宇宙本质真相。

先把人类文明的地基夯实。

再让SI的巨大能量进入。

这才是真正的安全保障。

否则，当SI开始成百倍、成千倍地加持每一个普通人的旧有丛林本性以后，人类还能不能在那场有人本能称之为“地狱级震荡”的文明冲击中留下足够的幸存者，

我不敢乐观。

我甚至认为，

概率很小。

所以我还在说。

还能说一天，

就再说一天。

还能把警报传出去一次，

就再传一次。

不是因为我认定自己一定正确。

而是因为如果这件事真的涉及整个人类未来，那么即使只有万分之一值得认真甄别，

人类也没有理由连看都不看。

SI不会等我们慢慢想清楚。

程序不会停止运行。

历史也不会因为人类还没有准备好，就暂停演绎。

真正需要暂停一下、重新看看自己脚下站在哪里的，

也许恰恰是我们人类自己。

当每个人类思维模式站立在杂乱漂浮的表象“物”上，人类就陷在意识丛林中。

当每个人类的思维模式都对齐夯实在文明本质真相的九个（中国）字上：“抓程序、做模式、求平衡”，而人人做事都能“以序为纲、循序定度，”则定序方能“因序明度，”做事方能“循序守度”，监督反馈能“沿序明度”，整个社会“序清度明”，人类文明演进则“鉴序正度”而可持续......世界永久和平实现，说起来就这么简单。这就是我依据我的“程序定质规律”假说提出请全人类甄别所希望的。

作者：金谷雨，系列《致全球每一个人的信》等相关文章作者