第三十章 給你們上堂課!
一周時(shí)光匆匆而過(guò),很快就到了交流會(huì)開(kāi)始的時(shí)間。
雖然名為國(guó)際學(xué)術(shù)交流會(huì),但由于神經(jīng)網(wǎng)絡(luò)的概念提出時(shí)間太短,其他學(xué)者沒(méi)有工作內(nèi)容可以分享,因此這次會(huì)議的主體仍然只有徐毅的個(gè)人報(bào)告。
經(jīng)過(guò)了上午贊助商、華東大學(xué)和魔都政府的揭幕式發(fā)言后,諸多學(xué)者終于在午休后等來(lái)了會(huì)議的戲肉部分。
下午兩點(diǎn),距離報(bào)告開(kāi)始一個(gè)小時(shí),就有不少人早早到場(chǎng),演講大廳的觀眾席上已經(jīng)落座了三四成的席位;還有許多學(xué)者在外面的休息廳,或坐或立地與熟人閑聊,同時(shí)等待報(bào)告開(kāi)場(chǎng)。
而作為這次會(huì)議的主角,徐毅此時(shí)正坐在酒店內(nèi)的化妝間里,脖子僵硬地看著鏡子里在自己臉上忙前忙后的化妝師,一動(dòng)也不敢動(dòng)。
“額,我覺(jué)得……差不多可以了吧?”慘無(wú)人道地接受了一個(gè)小時(shí)的擺弄,徐毅終于忍不住,從嘴角勉強(qiáng)擠出請(qǐng)求。
“那可不行,”還沒(méi)等化妝師答話,站在后面圍觀的周粥就笑瞇瞇地回道,“徐老師,您今天可不止代表了你自己,還代表了我們學(xué)校,甚至華國(guó)學(xué)者的形象,不認(rèn)真打理怎么能行?”
她今天為了會(huì)議同樣作了打扮,一身白色襯衫搭配深藍(lán)色格子裙,顯得活力十足又不失沉穩(wěn)。
瞇起雙眼上下打量了一下鏡中的老師,女孩嘿嘿一笑:“沒(méi)想到老師你平時(shí)也不運(yùn)動(dòng),身材居然還能這么好,真帥!……再看看你,王浩中!”
無(wú)辜躺槍的小胖子攢眉苦臉,只能費(fèi)勁地收了收肚子,以示努力。
………………
臨近報(bào)告開(kāi)場(chǎng),徐毅才終于擺脫了化妝師的魔爪,帶著兩位徒弟快步走向演講廳。
路上卻被一位文質(zhì)彬彬的中年學(xué)者攔下了,他推了推眼鏡,微笑著伸出手問(wèn)道:“你好,你就是徐毅老師吧?”
“是的,你好?”徐毅有些懵逼地伸出手握了握,看著來(lái)者熟悉的面孔,竭盡腦汁回憶對(duì)方的身份,卻被一旁激動(dòng)的王浩中一語(yǔ)道破:“周志強(qiáng)老師!”
周志強(qiáng)是金陵大學(xué)AI研究院院長(zhǎng),歐洲科學(xué)院院士,也是華國(guó)科學(xué)院院士候補(bǔ),在華國(guó)AI領(lǐng)域?qū)儆陬I(lǐng)軍人物之一,徐毅之前也在各種新聞報(bào)道上見(jiàn)過(guò)他,只是初次見(jiàn)面才發(fā)現(xiàn)本人意外地年輕。
對(duì)方很有涵養(yǎng)的沖小胖子點(diǎn)了點(diǎn)頭,轉(zhuǎn)頭對(duì)徐毅說(shuō)道:“徐老師上次的報(bào)告相當(dāng)精彩,我也從中得到了不少啟發(fā),十分期待這次您給我們帶來(lái)的驚喜?!?p> “相信不會(huì)讓周院士失望的,”徐毅微微頷首。
“時(shí)間不早,我就不浪費(fèi)你的準(zhǔn)備時(shí)間了,這是我的名片,希望會(huì)后有機(jī)會(huì)再交流,”周志強(qiáng)過(guò)來(lái)攀談了幾句,就叫上旁邊等候的學(xué)生一同告辭了。
路上與周院士的談話耽擱了點(diǎn)時(shí)間,待徐毅走到后臺(tái)時(shí),聽(tīng)到主持人的介紹已經(jīng)開(kāi)始。
“接下來(lái)請(qǐng)?jiān)试S我介紹本次報(bào)告的主講人徐毅博士,他是……,曾在……”
“下面讓我們有請(qǐng)徐毅博士帶來(lái)他的學(xué)術(shù)分享!”
徐毅理了一下衣領(lǐng),隨后伴著掌聲,大步走到臺(tái)上。
講臺(tái)前的屏幕上同時(shí)顯出這次報(bào)告的演示文檔,看到題目后,臺(tái)下產(chǎn)生了一陣陣騷動(dòng),一些華人學(xué)者則露出了會(huì)心的笑容。
“大家好,我是徐毅,我這次的報(bào)告主題是……”
講到這里,徐毅的臉上也不禁浮起一絲微笑:
“人工智能的未來(lái):聯(lián)結(jié)主義——從ILSVRC與CNN說(shuō)起”
稍作停頓后,他繼續(xù)說(shuō)道,
“大約兩個(gè)月以前,我曾經(jīng)在華國(guó)人工智能交流大會(huì)上使用了相同的題目,在場(chǎng)的部分朋友應(yīng)該對(duì)此印象深刻,我相信在當(dāng)時(shí)恐怕有不少人認(rèn)為‘這是個(gè)瘋子’,”
徐毅嘴角含笑,而語(yǔ)氣認(rèn)真:“但現(xiàn)在,我可以自信地宣稱(chēng),神經(jīng)網(wǎng)絡(luò)在未來(lái)的三到五年內(nèi),必然會(huì)取代傳統(tǒng)的機(jī)器學(xué)習(xí)算法,成為人工智能的主流!”
“雖然在場(chǎng)的各位應(yīng)該都已經(jīng)對(duì)多層感知機(jī)和卷積神經(jīng)網(wǎng)絡(luò)有了大概的了解,但還是允許我在這里進(jìn)行一個(gè)簡(jiǎn)單的介紹……”
“……通過(guò)模擬神經(jīng)元,尤其是視覺(jué)神經(jīng)元的工作原理,便是我搭建出以CNN為首的各種神經(jīng)網(wǎng)絡(luò)的靈感動(dòng)機(jī)……”
剛剛與徐毅等人有過(guò)一面之緣的周志強(qiáng)坐在臺(tái)下安靜聽(tīng)講,突然問(wèn)起身邊的博士生:“景峰,你覺(jué)得徐老師講的怎么樣?”
“徐老師這部分原理的講解還是非常清楚的,”被稱(chēng)作景峰的年輕人點(diǎn)頭回答,又皺了下眉,補(bǔ)充道,“但這部分內(nèi)容其實(shí)在上次已經(jīng)講過(guò)一遍了……”
周院士嘴角含笑,不置可否:“開(kāi)頭而已,還有一個(gè)半小時(shí)呢,再等等看?!?p> 不需要再等等看,所謂的驚喜來(lái)的相當(dāng)迅疾,徐毅在大概介紹之后,很快就進(jìn)入了這次的主題。
“當(dāng)然,現(xiàn)在的神經(jīng)網(wǎng)絡(luò)還存在相當(dāng)多的問(wèn)題,這也是我今天報(bào)告的主要內(nèi)容,我會(huì)指出目前存在的一些缺陷,并針對(duì)它們提出解決思路,歡迎各位基于這些方向進(jìn)行進(jìn)一步的研究?!?p> 此言一出,臺(tái)下又是一片轟然議論,激烈程度甚至遠(yuǎn)超上次報(bào)告!
因?yàn)檫@句話等于告訴各位,“我有很多后續(xù)的研究方向,就交給你們?nèi)プ霭伞保?p> 眾所周知,好的科研成果最需要的關(guān)鍵就是研究思路和方向,徐毅現(xiàn)在的行為,就像是把餡餅做好丟到各位學(xué)者面前,而他們要做的只是張嘴接住就夠了。
聽(tīng)到這番話,饒是周志強(qiáng)都忍不住輕笑了一聲:“好家伙!徐毅這是要給在場(chǎng)的所有人當(dāng)一回導(dǎo)師呀,口氣真大!”
口氣雖大,但學(xué)者們卻一點(diǎn)都不反感;恰恰相反,他們巴不得這位狂生的口氣再大一點(diǎn),最好能給一人一條思路,省得還要互相競(jìng)爭(zhēng)。
至于徐毅所謂的思路是否可行,在座的眾人毫不懷疑——這可是當(dāng)著全世界最頂級(jí)的同行們,沒(méi)有人會(huì)舍棄自己光明的學(xué)術(shù)生涯,只為了跟大家開(kāi)一個(gè)大玩笑的。
何況徐毅的“狂”在上次會(huì)議中已經(jīng)有所體現(xiàn)了,但事實(shí)證明他只是恃才傲物而不是狂妄自大,這次應(yīng)該同樣言之有物!
看到眾人充滿期待的目光,徐毅微微一笑,繼續(xù)開(kāi)口說(shuō)道:
“讓我們按照CNN的結(jié)構(gòu),逐個(gè)分析可以改進(jìn)的地方吧,”
“首先從反向傳播算法開(kāi)始,我們當(dāng)前使用的梯度下降法,更新參數(shù)的速度與參數(shù)的梯度完全正相關(guān),但在一個(gè)神經(jīng)網(wǎng)絡(luò)中參數(shù)間的梯度差異極大,最大者可能達(dá)到1e10這個(gè)級(jí)別,而往往第二大或者第三大者就只有1e5甚至更低,”
“相對(duì)于主要的參數(shù)方向,其他方向上的更新極慢,這就使得梯度下降法每次只在幾百萬(wàn)參數(shù)中更新最大的一個(gè)或者幾個(gè)參數(shù),極大地影響了訓(xùn)練速度……”
“解決方法當(dāng)然是減少不同參數(shù)梯度之間的差異,sign函數(shù)是一個(gè)例子,它可以讓參數(shù)的更新只與梯度的符號(hào)相關(guān),但完全消除了梯度大小的影響也過(guò)于極端,因此我們可以考慮一種折中的辦法……”
不少學(xué)者露出若有所思的神情,徐毅見(jiàn)狀并不多言,只在講完后等待一分鐘留給大家消化,接著開(kāi)始講起下一個(gè)思路:
“其次,卷積神經(jīng)網(wǎng)絡(luò)在層數(shù)堆疊數(shù)量超過(guò)一定值后,會(huì)出現(xiàn)效果的退化,這顯然是不合常理的,因?yàn)榧僭O(shè)我們?cè)趦蓪又g使用恒等變化,那么N層網(wǎng)絡(luò)就可以變?yōu)镹-1層網(wǎng)絡(luò),理論上多層的效果總會(huì)至少不弱于低層網(wǎng)絡(luò)的效果……”
“對(duì)于這個(gè)問(wèn)題,我們可以考慮使用某種結(jié)構(gòu),使得兩層之間可以更容易地學(xué)到恒等變化……”
“對(duì)于批歸一化,有……我們針對(duì)這個(gè)問(wèn)題可以……”
“對(duì)于卷積層……我們可以……”
“…………”
每說(shuō)一個(gè)內(nèi)容,徐毅都會(huì)停頓一分鐘,就這樣洋洋灑灑講了十幾個(gè)方向。
在他剛開(kāi)始講述時(shí),大廳內(nèi)還有此起彼伏的討論聲,但隨著他講的內(nèi)容越來(lái)越多,大廳內(nèi)的聲音逐漸低沉,直至落針可聞。
所有的學(xué)者,甚至連七八位院士在內(nèi),都掏出紙筆,埋頭沙沙記起了筆記!
這幅場(chǎng)景與其說(shuō)學(xué)術(shù)交流會(huì),倒更像是老師在上一堂別開(kāi)生面的公開(kāi)課!
只不過(guò)課上的學(xué)生們,都換成了名校的教授,和各國(guó)的院士……
徐毅講完最后一段,意猶未盡地作出總結(jié):“……以上就是我暫時(shí)想到的所有內(nèi)容,期待大家的后續(xù)補(bǔ)充?!?p> 等他毫不拖泥帶水地致謝下臺(tái)后,全場(chǎng)仍然處在詭異的安靜中。
直到一位手速最快的教授記完筆記,甩甩發(fā)酸的手腕,猶豫地輕輕鼓起掌,
大廳內(nèi)開(kāi)始慢慢響起應(yīng)和的掌聲,隨后匯成聲音的巨浪!
全場(chǎng)掌聲雷動(dòng),經(jīng)久不歇!
而在周志強(qiáng)旁邊,開(kāi)始還有所質(zhì)疑的景峰,此時(shí)雙手早已拍得通紅,卻仍不舍得停下。
周志強(qiáng)抬頭看了看周?chē)d奮的人群,無(wú)奈嘆了口氣,放下手中的紙筆,跟隨大家輕輕鼓掌致意。
“景峰,你的筆記記完了吧?”優(yōu)雅地鼓著掌,周院士面向臺(tái)前,目不斜視。
同時(shí)低聲詢(xún)問(wèn)起自己的學(xué)生,
“回去之后讓我看看,我抄一份?!?