11月12－13日，由OFweek中國(guó)高科技行業(yè)門(mén)戶、高科會(huì)主辦的“OFweek2018（第三屆）中國(guó)高科技產(chǎn)業(yè)大會(huì)”在深圳成功舉辦。在13日“OFweek2018（第三屆）人工智能產(chǎn)業(yè)大會(huì)AI技術(shù)專場(chǎng)”上，深圳大學(xué)計(jì)算機(jī)與軟件學(xué)院特聘教授石大明帶來(lái)了“從神經(jīng)網(wǎng)絡(luò)到深度學(xué)習(xí)”的主題演講，針對(duì)深度學(xué)習(xí)在神經(jīng)網(wǎng)絡(luò)的發(fā)展方向進(jìn)行了詳細(xì)分析。

深圳大學(xué)計(jì)算機(jī)與軟件學(xué)院特聘教授石大明

神經(jīng)網(wǎng)絡(luò)是一門(mén)重要的機(jī)器學(xué)習(xí)技術(shù)，也是目前最為火熱的研究方向，即深度學(xué)習(xí)的基礎(chǔ)。石大明教授首先詳細(xì)分析了人工智能兩大學(xué)派：符號(hào)主義與連接主義，緊接著又講述了機(jī)器學(xué)習(xí)的兩大方法：有監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)，循序漸進(jìn)。

神經(jīng)網(wǎng)絡(luò)發(fā)展包含四個(gè)里程碑，分別是感知器、多層感知器、支持向量機(jī)、深度學(xué)習(xí)，并對(duì)神經(jīng)網(wǎng)絡(luò)中的難點(diǎn)進(jìn)行了分析。他提出，深度學(xué)習(xí)在神經(jīng)網(wǎng)絡(luò)發(fā)展中的地位實(shí)質(zhì)是靠強(qiáng)大的計(jì)算和存儲(chǔ)能力進(jìn)行搜索而完成自動(dòng)特征提取，同時(shí)具有理論上無(wú)突破，缺乏網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)優(yōu)化等缺點(diǎn)。石大明表示，深度學(xué)習(xí)的發(fā)展方向應(yīng)當(dāng)是：結(jié)合領(lǐng)域知識(shí)的特征提取的同時(shí)，定量?jī)?yōu)化網(wǎng)絡(luò)結(jié)構(gòu)。

深度學(xué)習(xí)不是萬(wàn)能的

大腦的工作過(guò)程，是一個(gè)對(duì)接收信號(hào)不斷迭代、不斷抽象概念化的過(guò)程。例如，從原始信號(hào)攝入開(kāi)始，接著做初步處理、抽象，再進(jìn)一步抽象，最后識(shí)別人臉。這個(gè)過(guò)程其實(shí)和人們的常識(shí)是相吻合的，因?yàn)閺?fù)雜的圖形，往往就是由一些基本結(jié)構(gòu)組合而成的。因此，石大明介紹到：大腦是一個(gè)深度架構(gòu)，認(rèn)知過(guò)程也是深度的。深度學(xué)習(xí)，恰恰就是通過(guò)組合低層特征形成更加抽象的高層特征。

深度學(xué)習(xí)通過(guò)學(xué)習(xí)深層非線性網(wǎng)絡(luò)結(jié)構(gòu)，只需簡(jiǎn)單的網(wǎng)絡(luò)結(jié)構(gòu)即可實(shí)現(xiàn)復(fù)雜函數(shù)的逼近，并展現(xiàn)了強(qiáng)大的從大量無(wú)標(biāo)注樣本集中學(xué)習(xí)數(shù)據(jù)集本質(zhì)特征的能力。深度學(xué)習(xí)能夠獲得可更好地表示數(shù)據(jù)的特征，同時(shí)由于模型的層次深、表達(dá)能力強(qiáng)，因此有能力表示大規(guī)模數(shù)據(jù)。對(duì)于圖像、語(yǔ)音這種特征不明顯的問(wèn)題，深度模型能夠在大規(guī)模訓(xùn)練數(shù)據(jù)上取得更好的效果。相比于傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)，深度神經(jīng)網(wǎng)絡(luò)作出了重大的改進(jìn)，在訓(xùn)練上的難度可以通過(guò)“逐層預(yù)訓(xùn)練”來(lái)有效降低。

石大明認(rèn)為，深度學(xué)習(xí)并不是萬(wàn)能的，其需要結(jié)合特定領(lǐng)域的先驗(yàn)知識(shí)，需要和其他模型結(jié)合才能得到最好的結(jié)果。此外，類似于神經(jīng)網(wǎng)絡(luò)，深度學(xué)習(xí)的另一局限性是可解釋性不強(qiáng)，像個(gè)“黑箱子”一樣不知為什么能取得好的效果，以及不知如何有針對(duì)性地去具體改進(jìn)，而這有可能成為產(chǎn)品升級(jí)過(guò)程中的阻礙。

深度學(xué)習(xí)應(yīng)用最廣泛的三個(gè)主要研究領(lǐng)域

深度學(xué)習(xí)極大地促進(jìn)了機(jī)器學(xué)習(xí)的發(fā)展，收到世界各國(guó)相關(guān)領(lǐng)域研究人員和高科技公司的重視，石大明表示語(yǔ)音、圖像和自然語(yǔ)言處理是深度學(xué)習(xí)算法應(yīng)用最廣泛的三個(gè)主要研究領(lǐng)域：

1、深度學(xué)習(xí)在語(yǔ)音識(shí)別領(lǐng)域研究現(xiàn)狀

長(zhǎng)期以來(lái)，語(yǔ)音識(shí)別系統(tǒng)大多是采用GMM來(lái)描述每個(gè)建模單元的概率模型。由于這種模型估計(jì)簡(jiǎn)單，方便使用大規(guī)模數(shù)據(jù)對(duì)其訓(xùn)練，有較好的區(qū)分度訓(xùn)練算法，在很長(zhǎng)時(shí)間內(nèi)占據(jù)了語(yǔ)音識(shí)別應(yīng)用領(lǐng)域主導(dǎo)性地位。

2、深度學(xué)習(xí)在圖像識(shí)別領(lǐng)域研究現(xiàn)狀

對(duì)于圖像的處理是深度學(xué)習(xí)算法最早嘗試應(yīng)用的領(lǐng)域。起初卷積神經(jīng)網(wǎng)絡(luò)在小規(guī)模的問(wèn)題上取得了當(dāng)時(shí)世界最好成果。但是在很長(zhǎng)一段時(shí)間里一直沒(méi)有取得重大突破。主要原因是卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用在大尺寸圖像上一直不能取得理想結(jié)果，而現(xiàn)在的深度學(xué)習(xí)網(wǎng)絡(luò)模型已經(jīng)能夠理解和識(shí)別一般的自然圖像。深度學(xué)習(xí)模型不僅大幅提高了圖像識(shí)別的精度，同時(shí)也避免了需要消耗大量時(shí)間進(jìn)行人工特征的提取，使得在線運(yùn)行效率大大提升。

3、深度學(xué)習(xí)在自然語(yǔ)言處理領(lǐng)域研究現(xiàn)狀

自然語(yǔ)言處理問(wèn)題是深度學(xué)習(xí)在除了語(yǔ)音和圖像處理之外的另一個(gè)重要的應(yīng)用領(lǐng)域。深度學(xué)習(xí)在自然語(yǔ)言處理上取得的成果和在圖像語(yǔ)音識(shí)別方面相差甚遠(yuǎn)，仍有待深入研究。

更多詳細(xì)內(nèi)容，敬請(qǐng)關(guān)注OFweek人工智能網(wǎng)后續(xù)專題報(bào)道。