圖靈獎得主辛頓:坐學術冷板凳的30年 |
送交者: 天蓉 2024年06月04日07:33:35 於 [教育學術] 發送悄悄話 |
他曾花了小半個世紀的時間開發神經網絡,讓機器擁有了深度學習的能力,如今,他的願望實現了:人工智能之浪潮洶湧澎湃滾滾而來。然而,這位AI大神卻退縮了,他對他教會它學習的機器產生了懷疑,甚至憤怒。他擔心他畢生的工作可能導致人類的終結,他認為他的最終使命是警告世界! 他,就是如今被譽為“AI教父”的傑佛瑞·埃佛勒斯·辛頓(Geoffrey Everest Hinton,1947-)[1]。 家族傳奇 辛頓可以算是學界少有的傳奇人物,其傳奇之一,是他顯赫的家庭背景。我們從他的一位“玄祖父”布爾說起…… 英國數學家喬治·布爾(George Boole,1815年—1864),無疑是計算機科學的前輩之一,一位大師級人物。大家都知道的布爾代數、布爾邏輯,便是以他命名的。布爾出生貧困,但他的整個後代,以及連帶的3個家族可了不得,每一個都值得驚嘆一聲:好一個“科學世家”! 布爾的夫人瑪麗是一位女權主義哲學家,也是自學成才的數學愛好者,特別喜歡代數。瑪麗夫人的娘家姓氏(Everest)中,也出了好幾位科學名人,實際上,Everest是西方對珠穆朗瑪峰的稱呼,這來源於瑪麗的叔叔喬治·埃佛勒斯(George Everest),他勘察印度時發現了這座山,珠穆朗瑪峰便以他的名字命名。而且,傑佛瑞·辛頓的中間名便取為Everest,即珠穆朗瑪峰的英文名。 布爾和瑪麗,這對珠聯璧合的伉儷育有五個女兒,她們本人、配偶及後代,都有不凡的成就。非常有趣的是,布爾女兒中的老大和老小,都與中國有淵源。所以,首先簡要介紹中間3個女兒:老二嫁給了藝術家愛德華·泰勒,他們的兒子傑弗里·泰勒,是著名物理學家和數學家,二戰時曼哈頓計劃的核心成員之一;三女兒繼承了父親的數學天賦,對四維幾何深感興趣獨立鑽研,頗有成果;四女兒是英國史上第一位研究藥學的女性和女化學教授。 布爾第五個女兒,艾捷爾·麗蓮·伏尼契,為中國人所熟悉是因為她是《牛虻》一書的作者。 布爾的大女兒瑪麗,嫁給了數學家和作家查理斯·辛頓,生了四個兒子。其中小兒子的孫輩中,韓丁是“中國人民的好朋友”,寫了一本有關中國土地改革的長篇作品《翻身》。韓丁的妹妹寒春,是參與了曼哈頓計劃的女核物理學家,她的丈夫陽早,是美國養牛專家,夫妻倆長年定居中國。 圖1:傑弗里·辛頓(8歲時抱着動物園的蟒蛇、中學、近年) 就是布爾的這位大女兒,聯姻了“辛頓”的家族,這個辛頓家族中科學界名人和教授也是難以數清,我們就不一一列舉了。總之,這對“布爾+辛頓”生下了一個曾孫,便正是我們本文的主角:傑弗里·辛頓。 所以,辛頓是邏輯大師布爾的玄孫,短短的計算科學史中,玄祖玄孫皆大師,不是傳奇是什麼? 辛頓出生於英國,父親是劍橋大學教授,是著名的昆蟲學家,研究甲蟲的權威。辛頓和他的三個兄弟姐妹在一所充滿動物的大房子裡長大,父親還曾經將毒蛇關在車庫的坑裡。 嚴厲的父親自視甚高,似乎認為兒子永遠無法攀登自己的頂峰。但父親早已於70年代過世,沒有來得及看到兒子的學術引用已經遠遠超過了他。 求學傳奇 儘管傑弗里·辛頓的周圍環境中,不乏傑出的科學家、學者和教授,但與大多數成功人士一樣,他的求學生涯卻並不總是那麼順利。也許是因為這類年輕人心裡有太多自己的想法和主張的緣故。 辛頓高中時,進入了他口中的“二流公立學校”,克里夫頓學院,不過,辛頓在那兒碰到一位十分聰明的同學,這位朋友對他說:“你知道嗎?大腦的記憶並不是儲存在某個特定的地方,而是分布在整個大腦,在整個神經網絡里傳播。“,朋友又解釋道:”大腦使用全息圖,在全息圖中,你可以砍掉一半,但你仍然可以獲得整個圖片,所以……” 朋友的話使辛頓興奮,也正是從這個時候起,辛頓開始對大腦的運作深深着迷,這是他人生的關鍵起點。從此後,辛頓將一個目標放在了他的潛意識裡:想了解大腦是如何工作的? 一開始,18歲的辛頓進入劍橋大學國王學院學習物理、化學和數學,但於一個月後就退學了。辛頓去倫敦工作了一年,做了各種各樣的事情。第二年,他改修建築學,但這次堅持的時間更短:一天!後來,辛頓也嘗試過轉向哲學,不過也是半途而終。 再後來,辛頓轉而研究物理和生理學,成為當年劍橋大學唯一一個同時學習物理和生理學的學生。然而,因為他沒有任何生物學背景,所以學習生理學非常困難。但辛頓有所期待,因為據說在第三學期,生理學教授將告訴學生大腦是如何工作的,這正是辛頓學習生理學的原因。終於到了第三學期,由像赫胥黎這樣非常傑出的學者教授這門課。不過,結果並不是辛頓所期待的。生理學教授認為大腦是如何工作的呢?他們的想法是,有神經元,有沿着軸突和神經元傳播的動作電位。但僅此而已,他們實際上並沒有說出大腦是如何運作的,因為他們並不知道啊。並且,辛頓覺得心理學理論似乎太簡單了,不可能用以解釋大腦。 1970年獲得實驗心理學學士學位後,對大學本科學習頗感失望的辛頓放棄了劍橋大學,成了一名木匠。他一邊做書架、木門,一邊思考人類大腦的運作原理,自認為這是他喜歡的生活方式。作了一年多之後又有新想法了,因為靠木匠謀生並不是件容易的事情,對了解大腦也無幫助,所以,辛頓又考慮回歸學術界,並決定嘗試一個新方向:人工智能。 對如此奇特多變的求學經歷,辛頓謔稱自己患上了“學習上的過動症”,在一個專業上無法穩定下來。但其實不然,辛頓始終都在尋求自己的方向。前一段,是多次綴學的“傳奇”,後面的經歷,便說明了辛頓認定方向後堅持不懈的“傳奇”精神。 他1972 年去了愛丁堡,進入蘇格蘭愛丁堡大學攻讀博士,這次可能算是走對路了,因為那兒有一位非常聰明的叫希金斯(Christopher Higgins,1923 – 2004)的教授,正在研究神經網絡,這是辛頓長年累月思考認為可以用機器實現大腦功能的方向。 但是,辛頓好像總是運氣不佳,就在他開始追求這個目標時,希金斯教授改變了他的學術初衷,“叛變”到了AI的符號主義一邊,認為聯結主義的神經網絡是無稽之談。這顯然是受了MIT的AI大佬閔斯基的影響。閔斯基的《Perceptron》一書於69年出版,幾乎摧毀了神經網絡領域,使得1972 年成為神經網絡有史以來最低潮的時期。 因此,希金斯試圖說服辛頓停止做神經網絡,轉做符號人工智能。於是辛頓說,再給我六個月,我會證明這是有效的;然後每六個月之後,辛頓再跟希金斯說與上次一模一樣的話。兩人磨磨唧唧地爭論了五年,辛頓終于堅持研究備受冷落的神經網絡並熬到了博士畢業。 職場傳奇 辛頓的觀點總是與眾不同別出一格,閔斯基在《感知器》中,詳盡說明了單層神經網絡的限制以及功能不足之處,使得幾乎所有的學者都相信這是個沒有未來、註定失敗的一條路,但辛頓卻始終堅持神經網絡研究,認為閔斯基提出感知機的缺點是件大好事,發現神經網絡的問題,是解決其問題的開始,並不一定要放棄。 辛頓堅信大腦絕對不是通過人類編寫的“智能程序”來工作的。例如,你可以嘗試給小孩子編個程序,讓他照此步驟一步一步地從語法開始學習語言,但這並不會真正起作用,孩子們會從經驗中學習而不會按照你給他編的程序來做。 作為一名年輕的研究生,辛頓對自己認定的目標如此自信,令人刮目相看。辛頓將此歸結為少年時經歷的環境所致。他的父母是無神論者,卻將兒子送去了一所宗教學校。在那兒,辛頓周圍的每個人都相信上帝,除了他之外。因此,他已經習以為常總是與別人的不一樣。辛頓在一次訪談中表示,這對科學家是非常好的訓練,讓你對自己的觀點充滿信心,至少給你一個合理的理論,即每個人都可能是錯的,你需要堅持自己的主張,直到實現它或者否定它,做科學就需要這樣的精神。 博士畢業幾年之後,辛頓去了美國作博士後。他高興地在加利福尼亞找到了幾個神經網絡的支持者。20 世紀 70 年代末,在加利福尼亞州,聖地亞哥有一個團體,特別是 David Rumelhart等,他們認為神經網絡非常有趣。 圖2:辛頓1986年有關“反向傳播”的論文 1986年,辛頓與David Rumelhart和Ronald Williams共同發表了一篇題為“通過反向傳播誤差來學習”(Learning representations by back-propagating errors)的論文[2]。 三位科學家並不是第一個提出這種“反向傳播”方法的人。但他們將反向傳播算法應用於多層神經網絡並且證明了這種方法對機器學習行之有效。他們的論文也證明了,神經網絡中的多個隱藏層可以學習任何函數,從而解決了閔斯基等書中提出的單層感知機存在的問題。 同一時期,辛頓與 David Ackley 和 Terry Sejnowski 共同發明了玻爾茲曼機。 之後,辛頓在匹茲堡的卡內基梅隆大學找到了一份工作,但他對里根領導下的美國外交政策,特別是對中美洲的干涉越來越感到不安。他和他的妻子羅斯收養了來自南美的一男一女,卻不太喜歡在美國撫養他們。另外,美國的大多數人工智能研究都是由國防部資助的,這也讓辛頓不滿意,因此他接受了加拿大高級研究所的邀請,以及多倫多大學計算機科學領域的職位,並在加拿大啟動了“機器和大腦學習”項目。 圖3:辛頓著名的“徒子徒孫”們 辛頓1986年有關反向傳播算法和波爾茲曼機的兩篇重要文章,抵不過當年“人工智能的寒冬”,似乎反響不大,但辛頓在加拿大多倫多大學,畢竟有了穩定的位置以及還算充裕的支持神經網絡的研究經費,使他能在這個冷門領域裡堅持耕耘三十餘年無怨無悔。更為重要的是,隨着時間的推移,一些深度學習的信徒們被辛頓所吸引。他培養了不少學生,學生又有學生,加上博士後及合作者,研究神經網絡深度學習的人才濟濟群星閃爍,儘管寒冬期間工作機會少,資金仍然稀缺,但研究者們興趣盎然,他們憑藉自身的信念,排除嘈雜的干擾而自得其樂,江湖貌似平靜但暗流涌動,為人工智能春天之到來做好了準備。正是應了一句名言:“大隱隱於市”。 他長久的在這個冷門的領域耕耘,讓他最終迎來了春天,不但為他贏得了2018年的圖靈獎,也為人工智能領域帶來了革命性的突破。 參考資料: [1]Home Page of Geoffrey Hinton,https://www.cs.toronto.edu/~hinton/ [2]David E. Rumelhart, Geoffrey E. Hinton und Ronald J. Williams. Learning representations by back-propagating errors., Nature (London) 323, S. 533-536,http://www.cs.utoronto.ca/~hinton/absps/naturebp.pdf (此文首發於微信公眾號“知識分子”) |
|
|
|
實用資訊 | |
|
|
一周點擊熱帖 | 更多>> |
|
|
一周回復熱帖 |
|
|
歷史上的今天:回復熱帖 |
2023: | 留給中國人的時間已經不多了! | |
2023: | 搞情報:習近平的雷還會連續爆 | |
2022: | 我理解槍殺醫生槍手的心理 | |
2022: | 中國新聞事業編年紀事【29】 | |
2021: | 中國人都是“不肖子孫”,中國是狗都不 | |
2021: | 最近袁隆平死了 | |
2020: | 903美國動亂,暴徒講中文;神秘的氣血 | |
2020: | 如何寫論文5分鐘系列講座 22如何高效地 | |
2019: | 哈哈哈,鳴罉,當着六四英靈,你別說謊 | |
2019: | 人類文明之路 (Path of Human to Civil | |