光神經(jīng)網(wǎng)絡(luò),正在照亮智能計算的未來
如果問一個問題——能夠進行深度神經(jīng)網(wǎng)絡(luò)計算的芯片有哪些?大家給出的答案可能五花八門:CPU、GPU、DSP、NPU……
過去幾年里,電子計算已經(jīng)成為實現(xiàn)人工智能算法——尤其是深度神經(jīng)網(wǎng)絡(luò)模型——最重要的算力支撐。盡管具體的硬件架構(gòu)各有不同,但一言以蔽之,都是采用了馮諾依曼型的計算原理,即VLSI(超大規(guī)模集成電路)的“電子+邏輯”信息處理模式,以復(fù)雜的邏輯電路和處理器芯片來完成計算任務(wù)。
但是電子方法有其先天缺陷:一是信號之間容易相互干擾,對需要高密度連接的神經(jīng)網(wǎng)絡(luò)帶來一定的困難;二是能源需求太高,導(dǎo)致計算成本居高不下。
在以AI為主旋律的“數(shù)字基建”大規(guī)模爆發(fā)前夜,在算力上未雨綢繆,自然也就成了學(xué)術(shù)界和產(chǎn)業(yè)界共同關(guān)注的頭等大事。
最近,明斯特大學(xué)、牛津大學(xué)和?巳卮髮W(xué)的研究人員就共同實現(xiàn)了一項新的計算芯片,采用光學(xué)系統(tǒng)來幫助神經(jīng)網(wǎng)絡(luò)進行“學(xué)習(xí)”,以此實現(xiàn)計算、識別等行為。
不過,無論是光學(xué)計算,還是類腦芯片,類似的提法其實在學(xué)界早已有之,并且由于自身的局限性一直進展緩慢。那么,光學(xué)深度學(xué)習(xí)芯片的出現(xiàn),是否真的突破了先天的技術(shù)桎梏,又意味著哪些新的產(chǎn)業(yè)機遇呢?
光學(xué)計算+深度神經(jīng)網(wǎng)絡(luò)的“攪和”歷史
在介紹新計算硬件之前,先言簡意賅地解答一下大家心中可能存在的困惑——光到底是如何進行計算的?又為什么比電子方法更有優(yōu)勢呢?
我們知道,深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)是模仿人類大腦神經(jīng)元的運行方式而來的。在每一層中,來自上一層(或者輸入源)的信號經(jīng)由神經(jīng)元處理,將結(jié)果和前向信號傳遞給下一層的神經(jīng)元。
很顯然,這種計算方式需要依賴神經(jīng)元之間的大量、動態(tài)的連接才能完成,會對大多數(shù)使用電子方法的集成電路造成壓力。
因此,大家紛紛開始研究其他硬件,光學(xué)芯片因此成為“全村的希望”。
2017年,MIT的研究人員就研發(fā)出了一種使用光子技術(shù)實現(xiàn)神經(jīng)網(wǎng)絡(luò)的方法。他們使用一系列相互連接的波導(dǎo)管(傳輸微波波段的電磁波裝置),來為特定的計算編程。而處理器則通過一系列耦合光子波導(dǎo)來引導(dǎo)光線,因此只需要運用鏡片改變光線的方向,就可以達成運算。
可編程、低能耗,聽起來是不是棒棒噠?不過這種方式打造的硬件準確率實在是不太令人滿意,只有77%,被傳統(tǒng)方法吊打的節(jié)奏啊。
不過科學(xué)家們并沒有認輸,2018年加州大學(xué)洛杉磯分校的科學(xué)家們又將光學(xué)深度學(xué)習(xí)送上了《Science》雜志。
這次,科學(xué)家們采用3D 打印的方式制造出了一種全光學(xué)的深度學(xué)習(xí)框架D2NN。
簡單來說,研究人員訓(xùn)練出了能夠識別不同數(shù)據(jù)類型的光學(xué)網(wǎng)絡(luò)模型,并為它們分別創(chuàng)建了模型,該模型由多個像素層組成,每個像素之間如同神經(jīng)元一樣進行連接,并通過光來傳輸信息。
然后,研究人員采用五層 3D 打印塑料對仿真模型進行物理再現(xiàn),固態(tài)成品的探測器就可以通過物體表面反射的光來判斷出相應(yīng)的分類結(jié)果。
這種由光學(xué)元件堆疊而成的神經(jīng)網(wǎng)絡(luò)硬件,準確率能達到 91.75%,成本相對便宜,但是卻很難做到器件的小型化,難以處理復(fù)雜的數(shù)據(jù)及圖像分析,而且所有參數(shù)3D打印之后就不能被再次編程了。
(使用 3D 打印的“人工神經(jīng)網(wǎng)絡(luò)”芯片)
總結(jié)一下就是,此前的研究都對光學(xué)計算+神經(jīng)網(wǎng)絡(luò)的解決方案提出了自己的方法,但帶來的問題多于答案,科學(xué)家們不得不繼續(xù)探索。
全光學(xué)神經(jīng)突觸系統(tǒng):能否刷新光學(xué)計算的進程?
5月8日,來自德國明斯特大學(xué)的科學(xué)家將其研究成果發(fā)布在了《Nature》雜志上。
論文《All-optical spiking neurosynaptic networks with self-learning capabilities》(具有自學(xué)習(xí)功能的全光學(xué)尖峰神經(jīng)突觸網(wǎng)絡(luò)),提出了一種可以在毫米級光子芯片上實現(xiàn)的全光學(xué)神經(jīng)網(wǎng)絡(luò)。
研究人員是這么設(shè)想的:
輸入的數(shù)據(jù)(即光波導(dǎo))可以被微米級環(huán)狀諧振器調(diào)制成不同的波長,然后注入網(wǎng)絡(luò)并停留在光學(xué)微芯片上。接著利用集成在一起的相變材料,來實現(xiàn)權(quán)重調(diào)制,這種物質(zhì)可以由光觸發(fā)顯著的變化,非常適合模擬突觸和神經(jīng)元之間的“沖動”。
信息在光學(xué)神經(jīng)網(wǎng)絡(luò)中的傳輸,就好像是兩組人(單個波導(dǎo)的兩條路徑)同時在玩?zhèn)髀曈螒颍枰舻木嚯x比較遠,來防止另一個組的聲音干擾(耦合)。同時還不能有人亂開腦洞急轉(zhuǎn)彎,免得傳話內(nèi)容南轅北轍(光離開波導(dǎo))。
因此,在每個組的傳話過程中,都派出一個小秘書(相變材料),根據(jù)每組任務(wù)(權(quán)重)的不同,在每次傳遞過程中(微環(huán)諧振器的入口和出口處),對隊員們向下傳遞的信息進行微調(diào),將被傳錯/修改的信息復(fù)位,這樣就能最大限度地保證每個隊伍向后傳遞的信息,既能保持差異,又足夠準確。
為了證明這一點,研究人員開發(fā)了一個由四個人工神經(jīng)元和60個突觸組成的芯片。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀”爆發(fā)至今,五類新物種登上歷史舞臺
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計算迎來商業(yè)化突破,但落地仍需時間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機器人東風(fēng)翻身?