海納百川》50年AI寒冬無人問 ChatGPT一舉成名就得諾獎(沈政男)

瑞典皇家科學院8日宣佈,美國學者霍普菲爾德(左圖),與加拿大學者辛頓(右圖),共同獲得今年度諾貝爾物理學獎。(美聯社)

今年諾貝爾物理學獎頒給了人工智慧的開拓者霍普菲爾德與辛頓。他們的研究跟物理學關係不大,頂多是從中得到靈感,尤其辛頓根本沒有物理學背景,於是引發了一些小爭論。

然而,就跟流行音樂家巴布狄倫得到諾貝爾文學獎一樣,諾貝爾獎也需要趕流行,於是趁着ChatGPT引爆的AI熱潮,拉關係頒給了兩位人工智慧的大師。

ChatGPT運用所謂深度學習,而前身有幾個重要里程碑,最早是1950年代的感知器(perceptron),後來是1980年代由霍普菲爾德發展的霍普菲爾德網絡(Hopfield network),以及辛頓發展的波茲曼機器(Boltzmann machine),再加上幾個重要的簡化訓練的演算法,比如反向傳播(Backpropagation),纔有後來的AI大爆炸。

然而,你看,霍普菲爾德與辛頓的重要貢獻,都是30多年前所做了,爲什麼現在才得獎?就因爲ChatGPT的成功,使得他們的成就變得偉大起來,否則先前根本沒人在意啊。

正所謂:50年AI寒冬無人問,ChatGPT一舉成名天下知,才讓他們得到諾貝爾獎。事實上在感知器發展起來以後,有人就證明了,只能用來解決簡單問題,沒辦法成爲人工智慧!於是AI進入了第一個寒冬時期,後來才由霍普菲爾德以他的發明帶來了春天。辛頓受到霍普菲爾德啓發,改良了他的網絡,使得人工智慧又變得可能。

人工智慧是模擬人腦的思考方式,霍普菲爾德網絡與波茲曼機器都很創意,而且可以執行數字辨認的任務,問題是速度太慢了,電腦的學習與運算速度跟冰河移動差不多,必須找到更有效率的訓練電腦的方法。

附圖就是反向傳播發表出來的那篇文章,刊載在1986的《自然》期刊,應該是AI史上最重要文章之一。反向傳播是什麼,以後我會再寫,這裡只是要說,那篇文章的第一作者是誰?

大衛•魯梅爾哈特。辛頓說,魯梅爾哈特纔是AI的開拓者,因爲他是辛頓的督導老師。可惜他十幾年前就過世了。

魯梅爾哈特編寫了兩冊一套的《平行分佈過程》,乃AI最重要的經典之一,我在20多年前就買了,今早拿出來再翻一翻,都已經覆蓋蛛蜘絲了。你可以看到,在1980年代,那些認知科學家,企圖多麼宏大!他們不是要發明人工智慧,而是對人腦如何思考充滿了興趣,想辦法要來模擬人腦,於是想出了各式各樣的神經網絡模型。

沒想到後來被資訊科學拿去用了,而重要的技術關鍵就是大家知道的,GPU的發明與運用,訓練神經網絡的速度加快了千萬倍,使得平行運算變得可行。

人工智慧的原理很簡單,一端是輸入,另一端是輸出,中間則是隱藏神經元,而透過訓練,餵給電腦既有資料,讓它學習起來,下次遇到模糊的資料,就可以辨認,甚至可以創造新的資料。問題就出在,中間那些隱藏神經元要怎麼連結,彼此如何溝通,以及資料從輸入端進去以後,從前頭傳到後頭,該怎麼給予加權,才能讓輸出端的產出,跟目標答案的差距越來越小。

比如你給一張蘋果的圖片,訓練以後如果給一張香蕉圖片,必須能夠判斷這不是蘋果!

感知器就是很固定的演算法,你程式怎麼寫,就只能那樣判別資料;霍普菲爾德網絡是倆倆神經元相互連結的網絡,霍普菲爾德從物理學的自旋概念,想到了神經元的運作有類似之處,並且用能量的概念來求得網絡的恆定狀態,這是他的創見;而辛頓引入了隱藏神經元,並且用反向傳播簡化了訓練過程,使得網絡的學習更有效率。

Open AI的創辦人伊爾亞是辛頓的學生,他在1986出生,剛好是附圖那邊文章發表那年。辛頓曾說,有一天一個學生來敲門找他,說要跟他學習,但他正在忙,於是就說,我們約個時間好了!結果那位學生竟回答,那就約現在好了!

那位學生就是伊爾亞,那天辛頓給了一篇文章,要他回去念,就是附圖那一篇。伊爾亞後來與辛頓一起,掀起了十餘年來這一波的AI革命,從AlphaGo一直到ChatGPT,他等於是AI的代言人。

辛頓教出了好多高足,比如楊立昆(博士後研究),跟他一起在2018得到圖靈獎。照理說楊立昆也可以得這次的諾貝爾物理獎,但因爲他純粹就是人工智慧領域的人,跟物理沾不上邊,諾貝爾獎委員會扯不下去了。

網路上可以找到好多辛頓的訪談與教學影片,他本來在Google工作,去年離開,就爲了可以更加客觀評論AI。他大半生對研究、教學與倡導AI,都充滿了興趣、理想與遠見,可以說是一個典範科學家。

科學家的三個角色或使命就是:研究、教學與倡導。

辛頓還有一個重要的演算法發明,也就是對比分歧(contrastive divergence),網路上沒人介紹,有機會我再來寫一下。

看到網路上辛頓親自講解人工智慧的教學影片,真的非常感動。國外大學的研究風氣,顯然跟臺灣有很大不同,人家對學術的熱情可以達到瘋狂投入的程度,難怪可以發明那麼神奇的東西。(作者爲醫師)

※以上言論不代表旺中媒體集團立場※