🏴leyu官网首页🏵
“早在上世紀(jì)80年代,人工神經(jīng)網(wǎng)絡(luò)曾是熱門研究方向,但由于當(dāng)時(shí)計(jì)算機(jī)算力等問(wèn)題,這個(gè)領(lǐng)域一度被認(rèn)為難有突破,很快就不再為人們所關(guān)注。但是,這兩位學(xué)者卻能持續(xù)地在神經(jīng)網(wǎng)絡(luò)方向耕耘。神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)可說(shuō)在他們的研究基礎(chǔ)上得到了爆發(fā)式發(fā)展?!睆?fù)旦大學(xué)類腦科學(xué)與智能研究院院長(zhǎng)馮建峰教授在上世紀(jì)80年代讀博士期間的研究以及博士論文,就與霍普菲爾德網(wǎng)絡(luò)相關(guān),他與欣頓也有研究交集。
其實(shí),人工神經(jīng)網(wǎng)絡(luò)并非最新研究方向,從上世紀(jì)60年代起,科學(xué)家們就開(kāi)始研究,且研究過(guò)程幾經(jīng)起伏。不論是霍普菲爾德還是欣頓,他們的研究都經(jīng)歷了從熱到冷再到熱的過(guò)程。尤其是欣頓,更為業(yè)內(nèi)人士熟知的是他30年坐“冷板凳”的故事。
事實(shí)上,學(xué)界幾乎沒(méi)人預(yù)料到,今年的諾貝爾物理學(xué)獎(jiǎng)會(huì)花落機(jī)器學(xué)習(xí)領(lǐng)域,頒給了兩位人工智能(AI)先驅(qū)。此前,他倆幾乎從未出現(xiàn)在該獎(jiǎng)項(xiàng)的預(yù)測(cè)名單中,而欣頓更為人所知的身份是“人工智能之父”。
1986年,欣頓就和兩位學(xué)生發(fā)表了一篇關(guān)于“反向傳播算法”的論文,這一算法是訓(xùn)練神經(jīng)網(wǎng)絡(luò)的核心。但當(dāng)時(shí)并未改變神經(jīng)網(wǎng)絡(luò)研究持續(xù)走低的趨勢(shì),直到2012年,欣頓和兩位學(xué)生提出Alexnet模型,大幅提升了視覺(jué)識(shí)別的正確率后,引起了全球科學(xué)界震動(dòng),才開(kāi)啟了深度學(xué)習(xí)的熱潮。
現(xiàn)年91歲的霍普菲爾德曾在上世紀(jì)80年代首次提出了“霍普菲爾德網(wǎng)絡(luò)”,這一單層、全反饋的網(wǎng)絡(luò)結(jié)構(gòu)模仿生物神經(jīng)元連接,并引入了能量函數(shù)。當(dāng)能量函數(shù)達(dá)最小值,整個(gè)系統(tǒng)達(dá)到穩(wěn)定狀態(tài)。在神經(jīng)網(wǎng)絡(luò)中,這個(gè)穩(wěn)定狀態(tài)正是對(duì)應(yīng)于網(wǎng)絡(luò)的記憶或存儲(chǔ)的信息。這一模型被證明具有廣泛的應(yīng)用,涵蓋機(jī)器學(xué)習(xí)、聯(lián)想記憶、模式識(shí)別、優(yōu)化計(jì)算等多個(gè)領(lǐng)域。
正如今年的諾獎(jiǎng)?lì)C獎(jiǎng)詞所言,兩位獲獎(jiǎng)?wù)呤褂梦锢韺W(xué)工具開(kāi)發(fā)了各種方法,而這些方法為當(dāng)今強(qiáng)大的機(jī)器學(xué)習(xí)奠定了基礎(chǔ)。其中,霍普菲爾德創(chuàng)造了一種關(guān)聯(lián)記憶,它能夠存儲(chǔ)和重構(gòu)圖像以及其他模式類型。欣頓發(fā)明了一種能夠自主發(fā)現(xiàn)數(shù)據(jù)中屬性的方法,并執(zhí)行任務(wù),如識(shí)別圖像中的特定元素。
“這無(wú)異于凸顯了前沿學(xué)科的交叉與互通性?!眹?yán)駿馳在接受記者采訪時(shí)列舉到,2020年的諾貝爾物理學(xué)獎(jiǎng)?lì)C給了數(shù)學(xué)家彭羅斯,2021年的諾貝爾物理學(xué)獎(jiǎng)則頒給了研究復(fù)雜系統(tǒng)的氣象學(xué)家真鍋淑郎、克勞斯·哈塞爾曼。再看今年,霍普菲爾德和欣頓兩人也同樣是“跨界高人”。霍普菲爾德是一位橫跨多個(gè)學(xué)科領(lǐng)域的物理學(xué)博士,在物理、化學(xué)和生物學(xué)的交叉處開(kāi)發(fā)了神經(jīng)網(wǎng)絡(luò)。欣頓就讀劍橋大學(xué)時(shí),同時(shí)學(xué)習(xí)物理學(xué)和生理學(xué),后來(lái)獲得實(shí)驗(yàn)心理學(xué)學(xué)士學(xué)位,他通過(guò)物理、數(shù)學(xué)和計(jì)算機(jī)、神經(jīng)心理學(xué)多領(lǐng)域的交叉,推動(dòng)機(jī)器學(xué)習(xí)的發(fā)展。
leyu官网首页為表彰利用人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的奠基性發(fā)現(xiàn)和發(fā)明,今年的諾貝爾物理學(xué)獎(jiǎng)授予美國(guó)物理學(xué)家約翰·霍普菲爾德(John J.Hopfield)和英裔加拿大計(jì)算機(jī)科學(xué)家杰弗里·欣頓(Geoffrey E.Hinton),他們將平分1100萬(wàn)瑞典克朗(約合745萬(wàn)元人民幣)獎(jiǎng)金。
在馮建峰看來(lái),出身學(xué)術(shù)世家的欣頓是那種典型的為了學(xué)問(wèn)而做學(xué)問(wèn)的人。也正是因此,他在神經(jīng)網(wǎng)絡(luò)研究的“寒冬”季節(jié),一度在愛(ài)丁堡大學(xué)申請(qǐng)不到研究經(jīng)費(fèi),但即便如此,他仍然沒(méi)有放棄,而是“輾轉(zhuǎn)”美國(guó)、加拿大繼續(xù)他的研究方向。
上海大學(xué)理學(xué)院教授許新建介紹,欣頓的工作大大推動(dòng)了人工神經(jīng)網(wǎng)絡(luò)的發(fā)展,打破了機(jī)器學(xué)習(xí)的瓶頸。此外,包括量子人工智能領(lǐng)域,新型量子算法和量子計(jì)算機(jī)的設(shè)計(jì),也都受益于他們的工作。
“難以想象欣頓當(dāng)年會(huì)在神經(jīng)網(wǎng)絡(luò)這個(gè)‘不受學(xué)界待見(jiàn)’的研究方向持續(xù)耕耘,直到在深度學(xué)習(xí)領(lǐng)域?qū)崿F(xiàn)了巨大的突破?!鄙虾=煌ù髮W(xué)人工智能學(xué)院特聘研究員張婭告訴記者,包括欣頓的導(dǎo)師在內(nèi),當(dāng)時(shí)不少人都認(rèn)為欣頓不該在這個(gè)方向浪費(fèi)時(shí)間,甚至還勸說(shuō)他轉(zhuǎn)換方向。但也正是他在這個(gè)冷門的領(lǐng)域耕耘,使得他獲得了2018年的圖靈獎(jiǎng)和今年的諾貝爾物理學(xué)獎(jiǎng),并且為人工智能的發(fā)展帶來(lái)了革命性的突破。
另一位獲獎(jiǎng)?wù)咝李D,則是機(jī)器學(xué)習(xí)領(lǐng)域的領(lǐng)軍人物。欣頓利用統(tǒng)計(jì)物理學(xué)的工具,對(duì)霍普菲爾德網(wǎng)絡(luò)進(jìn)行隨機(jī)擴(kuò)展,開(kāi)發(fā)出了“玻爾茲曼機(jī)”。他通過(guò)輸入在運(yùn)行時(shí)很可能出現(xiàn)的示例來(lái)訓(xùn)練玻爾茲曼機(jī),用于分類圖像等。不僅如此,欣頓還在此基礎(chǔ)上繼續(xù)拓展,啟動(dòng)了機(jī)器學(xué)習(xí)的爆炸性發(fā)展。他曾于2018年獲得計(jì)算機(jī)領(lǐng)域的最高獎(jiǎng)——圖靈獎(jiǎng)。
上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系教授嚴(yán)駿馳介紹,霍普菲爾德的工作不僅擴(kuò)展了統(tǒng)計(jì)物理學(xué)的邊界,還創(chuàng)建了一種新的思考大腦計(jì)算的語(yǔ)言,對(duì)神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)有了更深入的理解。基于在這一領(lǐng)域的杰出貢獻(xiàn),霍普菲爾德曾獲2022年玻爾茲曼獎(jiǎng)。
🏷(撰稿:黃岡)菲律賓靶艦剛拉到靶區(qū)居然自己沉了
06-07德富達(dá)🐃
為胖都來(lái)站臺(tái)的明星誠(chéng)信已打折扣
06-05嘉順弘🐄
美財(cái)長(zhǎng)被問(wèn)中美誰(shuí)主動(dòng)時(shí)結(jié)巴
06-05光恒奧🐅
店主給抽煙顧客免單讓其以后別來(lái)
06-05健銘🐆
博主同款韓系穿搭
06-06宜博🐇
中方?jīng)Q定同意與美方進(jìn)行接觸
06-05先行🐈
上海一女子阻擋高鐵關(guān)門?假
06-06生飛冠🐉
有機(jī)構(gòu)稱代發(fā)3頁(yè)論文費(fèi)用1萬(wàn)元
06-07亞旋雅i
西安一40年老樓兩戶陽(yáng)臺(tái)墜落
06-06優(yōu)貝b
60歲老人喝自制藥酒卻中情花毒
06-07馳皇🐊