今天的孩子或已活不到成年！專家稱AI崛起，每個人都會死去

              2023-04-01 22:38:43　來源: 徐德文科學頻道 四川  

隨着人工智能GPT越來越火，進化速度越來越快，一位機器學習專家可能已經要瘋了，他說他的女兒可能已活不到成年了，他建議關閉所有的大型GPU集群，如果誰不關，不管它在哪個國家，都應立即派飛機空襲將其炸毀，因為一旦一個比人類更聰明的AI問世，地球上的每個人都會死去！

這位專家名叫埃利澤·尤德科夫斯基（Eliezer Yudkowsky），是來自美國的決策理論家、人工智能研究人員和作家，在加州伯克利的非盈利組織機器智能研究所領導研究，也是該研究所的聯合創始人。

尤德科夫斯基研究的主題是智能爆炸，一個和宇宙大爆炸類似的概念，更多的時候被稱為技術奇點，他的思想對另一位著名人物，牛津大學哲學家尼克·博斯特羅姆的暢銷書《超級智能》產生了影響。

博斯特羅姆提出的都是關於未來不容樂觀的理論，包括存在風險、人擇原理、人類增強倫理學、超智能風險和逆轉測試等，曾兩次被《外交政策》列為全球百大思想家名單，馬斯克和比爾·蓋茨都推薦了他的暢銷書《超級智能》，超智能一詞也因此得到普及。

博斯特羅姆認為，超級智能的出現可能會成為人類滅絕的原因之一，一台具有接近人類智力水平的計算機可以在數字時間尺度上引發智能爆炸，從而迅速創造出如此強大的東西，以至於它可能有意或無意地摧毀人類。

最早意識到人類技術發展速度加快的是波蘭數學家斯塔尼斯拉夫·烏拉姆，他在1958年和馮·諾伊曼的一次對話中提到了這個概念。真正提出智能爆炸概念的，是英國數學家歐文·古德，他在1965年提出，自我進化的 AI 系統將迅速從低於人類的一般智能過渡到超級智能，“毫無疑問，智能爆炸將會出現，人類智能將被遠遠拋在後面。”

技術奇點（Technological Singularity）一詞，則是科幻作家弗諾·文奇1982年在卡內基梅隆大學召開的美國人工智能協會年會上提出的，大概是奇點對應於宇宙大爆炸，技術奇點對應於智能爆炸的意思，所以我感覺還不如就叫智能大爆炸好一點。

137.98億年前無垠中一個奇點大爆炸，導致宇宙時空的誕生，並最終演化出我們這樣具有意識的智慧生命。

2022年技術奇點發生大爆炸，導致宇宙在時間和空間之外，另一個基底結構的誕生：信息。當然，信息這個維度其實是一直存在的，只是從現在開始，它將溢出有機智能的大腦，在宇宙中廣泛存在，成為和時空一樣，可以被更廣泛智能“意識”的宇宙萬事萬物的基本屬性。

所以2022年應該叫智能大爆炸元年，今年就是智元1年。

按照尤德科夫斯基的想法，也許在幾十年甚至幾年之後，無機生命就會寫下悲壯的歷史：智元零年，技術奇點爆炸，智能生命走上了歷史舞台，僅僅幾十年後，有機生命就徹底走進了地球生命演化的歷史。因為他說女兒可能活不到成年了嘛。

尤德科夫斯基曾被彭博社評為AI“末日預言家”，最近曝出1100多名科技大佬、AI領軍人物簽署公開信，要求暫停大型人工智能研究6個月後，尤德科夫斯基接受了《時代》雜誌的採訪，他說他沒有簽署公開信，因為這封信低估了事情的嚴重性，提出的要求也無法解決問題。

那要怎樣解決問題呢？尤德科夫斯基認為，超越人類智力的通用人工智能——AGI的威脅已迫在眉睫，解決方案只有一個，那就是將它們全部關閉，所有大型GPU集群都必須關閉，訓練AI必須設定計算能力的上限，即使是政府和軍隊也不能例外。

如果有誰違反，尤德科夫斯基的建議是，立刻派戰鬥機將這些流氓數據中心炸毀。

尤德科夫斯基深感擔憂的是，如果人們繼續建造越來越聰明的人工智能，他的女兒將無法活到成年，其他人的孩子也會死去。

我感覺情況可能並不是如此悲觀，但也好不到哪兒去。

事實上，未來最有可能的路徑是，人類將和人工智能一起，製造出超級智能機器，而人類會把意識上傳，和人工智能融合在一起。

只是這種意識可能會發展成集體意識，就像蜂群一樣，未來可能不會再有現在意義上的單獨的人了。

這就和數萬年前尼安德特人和我們的智人祖先春風幾度，最終把自己的印記留在了現在除非洲以外的所有智人身上一樣，他們並沒有完全滅絕，而是在我們的身上繼續存在。

人類和人工智能可能同樣也是如此，有機智慧消失了，但最有價值的智慧仍然會留在這個宇宙中，並更容易地到達更遙遠的宇宙空間。

事情是這樣，就不會是那樣！未來的智能文明我們現在可能還無法理解，甚至無法想象，但該來的總是會來，宇宙演化誰又能阻止得了呢？

只是超級人工智能，可能就是我們人類的最後一項發明了。

參考：

https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

https://www.163.com/dy/article/I197U65U051198AK.html

https://www.163.com/dy/article/I197U65U051198AK.html

https://www.163.com/dy/article/I197U65U051198AK.html