一年以來，人類不斷地被OpenAI發布的ChatGPT的新業績所震驚。11月8號，該公司公布了它的最新版4.0 Turbo。網上已經有無計其數的公測，大家基本公認，現在的它，已經達到了一個人類全科博士的水平。一年以前，還只是大學本科生的水平呀！

11月17號到21號，全球的吃瓜群眾都興致勃勃地觀看了一場歷時五天的該公司內的宮鬥大戲。5天之內，劇情反轉反轉再反轉。總之是跌宕起伏，科幻劇的天才編劇，都難有那麼大的想象力。

一、基本劇情

這裡是前奏：

現在已經清楚，觸發這次政變的具體事件，是山姆·奧特曼Sam Altman在事發之前一天16號在一次採訪中的講話，和OpenAI前員工的一封匿名信。

奧特曼在該採訪中透露，該公司數周之前取得的一項重大技術進步。能夠“推開無知的面紗，推進發現的前沿。” 他說： “我認為（如果項目完成）這將是我們迄今為止取得的最大進步，也是我們迄今為止所經歷的任何重大技術革命中最大的飛躍。”  我們“感覺它更像生物而不是工具。”

依時間推算，這項進步顯然並未出現在11月8號公布的ChatGPT 4.0 Turbo版本中。

OpenAI首席技術官米拉·穆拉蒂（Mira Murati）22號向員工透露，它就是現在正被熱議的Q*（英文念Q star中文Q星）項目。奧特曼的這番講話和透露這項技術突破的那封匿名信，顯然震驚了前董事會，因為他們對公司內部的如此重大發展居然毫不知情！

現在開始正式劇情：11月17日，這家全球炙手可熱的美國硅谷人工智能公司突然間毫無預警地公開發布聲明，將CEO山姆·奧特曼直接從公司開掉！同時被罷免的還有董事長兼總裁格雷格·布羅克曼（Greg Brockman）。

公司給出的理由是：“山姆的離職是董事會經過深思熟慮後做出的決定，董事會認為他在與董事會的溝通中未能始終保持坦誠，妨礙了董事會履行職責的能力。董事會不再相信他有能力繼續領導OpenAI。”

讓這個前董事會始料未及的是，奧特曼的離場竟觸發了公司幾乎全體員工的叛亂。一封由OpenAI全體員工770人中747名即97%的員工簽署的“要求山姆回歸、徹底改組董事會”的公開信終於將OpenAI的前董事會逼上了絕路。更讓人難以置信的是，在信上簽名的甚至還包括被人們普遍認為此次地震的始作俑者，公司AI技術靈魂人物Ilya伊爾亞！信中一句話流傳甚廣：“沒有了員工，OpenAI啥也不是。”

以微軟為代表的投資方也馬上開始聯合對OpenAI施壓。20號，微軟宣布將接納奧特曼和所有OpenAI的辭職員工。為了讓這家處於AI行業領先地位的公司不至毀掉，除了讓步，OpenAI好像別無選擇。

21號，OpenAI的前董事會投降，召回奧特曼繼續任CEO，而董事會徹底改組成奧特曼可以接受的模樣。這個重組董事會的過程還在繼續中。不過有美國的前財長加入新董事會，還讓人知道，奧特曼也有妥協，並非加速派（後詳）已經一統天下。

這裡是尾聲：最新動靜是，馬斯克出面要求：（為了全世界的利益，）OpenAI必須詳細解釋事變經過，尤其是那個造成全部事端的Q*究竟是何等神聖？新董事會已經成了小組專司此事。全世界都在靜候回音。

二、擴展分析

媒體上已有無數的文章分析這個舉世震驚的劇情，基本意見一致，就是這是一場路線鬥爭。一方是以前CTO技術總監 IIya為代表的要求AI發展必須與人類整體長遠利益無限對齊的超級對齊(Supper Alignment)派（以下簡稱對齊派）。一派就是以Altman為代表的有效加速派 Effective Acceleration（以下簡稱加速派）。前者對人工智能可能失控的現實風險充滿疑慮，鑑於ChatGPT已經出現越獄跡象，力圖不惜一切代價加以控制。後者則堅持認為，ChatGPT現在的發展還完全可控，還可以繼續大力發展。

問題的核心是，如何擺正全人類長遠利益和部分人類的眼前利益之間的關係。最大的難點是如何判定那個風險在現實中已經大到什麼程度，是不是還真的可控？

馬上要面臨的下一個問題核心技術是，人類可不可能給AGI加上思想鋼印，讓它絕無可能擺脫人類的控制或為人類整體利益服務的宗旨，自行其是。（這個思想鋼印的說法來自劉欣慈的著名科幻小說《三體》。面對過於強大的外星文明，那時的科學家把“人類必勝”的意志寫進地球軍人的基因，不可更改。）應該說 ，當然還有機會。但是，還是沒有把握吧？因為很顯然，一旦AI進化到比人類聰明太多，我們真的可能完全搞不明白它究竟在做什麼。

在這場舉世矚目的宮鬥中，Ilya似乎僅是一個人，在代表至少是他自己心目中的人類整體長遠利益，而奧特曼則代表着四個方面的利益：1、OpenAI公司內部幾乎全部員工的直接利益。2、以微軟為代表的投資方的利益。3、ChatGPT如果成功發展成萬億美元級別的超級公司，可以帶動起來的至少數百家中小企業的數十萬從業人員的直接利益。4、在AI還沒有發展到超級智能SI（後詳）之前，人類在通用人工智能AGI（後詳）階段可以獲得的所有直接眼前利益。

從這一場具體的戰役中看，對齊派真的是一敗塗地呀！怎麼覺得那個奧特曼就像是AGI甚至SI在人世間行走的代理人（agent）甚至化身/道成肉身（avatar/incarnation）呀？他是不是也太所向披靡了呀？至少在科技界，是不是已經完全沒有可以制衡加速派的力量了呀？

那麼人類真的就是毫無招架還手之力了嗎？如果AI的進化真的就此進入毫無阻力的瘋狂奔跑狀態，現在人類似乎就只剩下了最後一道防線，就是國家/政府和國際組織比如聯合國了。這方面，人類好似還是有了一些動作。比如，已經召開過以此為主題的若干次國際會議。比如中美這次在舊金山達成的共識之一，就是要建立一個聯合委員會來研究此議題。

但是，筆者感覺，動作還是太慢呀太慢。鑑於實在現實的眼前、部分人的利益和相對肯定是更虛無縹緲的人類整體、長遠利益之間的衝突，再加上地緣政治的競爭，這個強力限制AI快速進化的共識很難達成呀！無論是個人還是公司，國家還是陣營，工業還是軍事，若非真的看清楚可以讓人類滅絕的巨大現實威脅，怎麼可能讓所有人都放慢步伐？又怎麼可能自己自願裹足而讓別人去捷足先登？只要有一方不減速，其它方的減速是不是都會自討苦吃而失去意義？而當人類看清楚這一點時，恐怕真的是一切都為時太晚。放出魔瓶的妖怪早是已經收不回去，打開了的潘多拉魔盒早已關不上了。

何況，人工智能作為人類的戰略工程，其實耗用資源甚少。你看那個做出AlphaGo的DeepMind公司才區區200個員工，現在聲威駭世的OpenAI也不就770個員工嗎？要想突破，相對還是容易呀！想想地球上有多少大型公司的員工數以十萬計呀！

三、背景介紹，為什麼AGI的出現如此重要？

人工智能分三個等級：弱人工智能(Weak AI)、強人工智能(Strong AI或 Artificial General Intelligence AGI通用人工智能)和超級人工智能(Super AI)。

弱人工智能就是在某一個方面可以媲美甚至超越人類能力的人工智能。其實這類人工智能的更準確叫法應該是專用人工智能（Special AI）。這樣的人工智能實在已經是太多。人類現在對這類弱人工智能的依賴已經是無所不在。離了這些弱人工智能，可以說，現代的人類社會一天也玩不下去。（原始部落除外。）

強人工智能就是不限於某一個具體行業，能在一般智力上媲美正常人類的人工智能。它的準確稱呼的確應當是通用人工智能。這個強（通用）人工智能就應當可以完成一個正常人所能做的所有（或大多數非特定的）智力活動。如果配上一個機器人的軀體，它也應當能夠（通常會更好地）完成人類所能從事的所有（或大多數非特定的）體力（物理）活動。

超級人工智能就是遠超最聰明的人類（比如愛因斯坦）的聰明程度的人工智能。它可能做的事情，在各種科幻電影中多有描述。大概在電影《終結者3》中描述的那個天網就是這種超級人工智能最可能的形態。這個超級人工智能一定是強人工智能自行進化然後覺醒（即具有自我意識）而成。從將來那時的現狀而言，它已經不能稱之為人工智能，雖然在淵源上它顯然來自人工智能。因此人們經常把術語中的人工一詞刪去，僅稱超級智能(Super Intelligence/SI)。

早在2005年，當代最著名的未來學家，Google公司的技術總監庫茲韋爾寫了一本十分著名的書名叫《奇點臨近》(The Syncularity is Near) ，提出一個發展速度的加速回報定律(law of acceleration return)。說的是，人類社會各方面，尤其是科學技術方面的進化速度在不斷加速。經過複雜的測算，他預計人類出現前述強或通用人工智能AGI的最可能時間是2045年。

然後就會出現一個AGI超速進化的黃金時代，直到達成SI。未來學家把這個AGI出現到SI出現之間的狀況描述為：智力爆炸(Explosion of Intelligence)。這一派未來學家認為，在這個智力爆炸的過程中，困擾人類千年、萬年的絕大多數難題，都將得到解決。比如部分地區的物質匱乏，比如各種各樣的健康問題（所有的？疾病），比如最合理優秀的政治制度、世界政府。想想那時的人類有無數的超級愛因斯坦相助，這些問題解決起來，也應當是困難大減。根據庫茲韋爾測算，依據加速回報定律，這個進化過程大體歷時20-30年。

        真正可怕的是，在這個短短的看似極度美好的智力爆炸階段過去之後，第一個超級智能一旦出現，它有極大的可能在非常短的時間內就會通過互聯網接管其它所有的強人工智能。這第一台超級智能機器將擁有絕對的先發戰略優勢。而且這第一個超級智能好像非常可能是一個獨裁者，它不會對其它的強人工智能施行民主，即不會由它們選舉產生。

        很多人可能還不明白，電腦只要追近了人類，超過那就是一瞬間。有人形象地描述了這個狀況：“人工智能就像一列火車，它臨近時你聽到了轟隆隆的聲音，你在不斷期待着它的到來。它終於到了，一閃而過，隨後便遠遠地把你拋在身後。”

       類似的話語，還可以找到一些：

    “人工智能出現的意義，在地球的歷史上，只有人類的出現能與之相比擬。”

       “強人工智能將會是人類最後的一項發明創造。此後人類需要的一切都將由它代勞。”

       “未來屬於電腦，不需要我們。” “未來的人類可能就是人工智能豢養的寵物。”

       將來的人類科技史很可能會這樣記載：2023年11月8號，OpenAI的那場發布會，就是AGI誕生的元年生日。當然也很可能再遲一點，比如那個ChatGPT 5.0或Q*發布之日。這個不會遲於最近幾年吧？

       現在全世界的人都在瞪大眼睛，等着智力爆炸階段的到來。它的到來，看來鐵定是比庫茲韋爾預計的那個大名鼎鼎的2045年奇點要提前了。然後就看人類有多大本事把這個階段維持得儘可能地長久了。

       人類呀！是不是你真的就還剩20-30年的時光可以當地球的主人了呀？相比之下，地球人之間現在那些各種地緣政治之爭，是不是太像大槐安國里的無聊夢境了呀？