訂閱
糾錯(cuò)
加入自媒體

重磅:清華團(tuán)隊(duì)提出類腦計(jì)算系統(tǒng)新框架,通用人工智能或不再科幻

人腦,是自然界中最完美的信息處理系統(tǒng),它可以執(zhí)行各種各樣的復(fù)雜任務(wù),其計(jì)算效能要比現(xiàn)有數(shù)字計(jì)算系統(tǒng)高出幾個(gè)數(shù)量級(jí),被認(rèn)為是目前唯一的“通用智能體”。

一直以來,通過模擬人腦信息處理方式,仿制像人腦一樣具有“思維”、在工作性能上超越人腦的“類腦系統(tǒng)”,實(shí)現(xiàn)通用人工智能,是眾多科學(xué)家畢生追求的夢(mèng)想。

如今,來自清華大學(xué)、北京信息科學(xué)與技術(shù)國(guó)家研究中心、美國(guó)特拉華大學(xué)(University of Delaware)科研團(tuán)隊(duì)的一項(xiàng)突破性研究,或?qū)⒓铀兕惸X計(jì)算和通用人工智能(Artificial General Intelligence,AGI)的到來。

研究人員在類腦計(jì)算通用系統(tǒng)層次結(jié)構(gòu)方向取得突破性進(jìn)展,并提出了“神經(jīng)形態(tài)完備性”(neuromorphic completenes)的最新概念。

(來源:Nature)

相關(guān)論文于 10 月 14 日在線發(fā)表在頂級(jí)科學(xué)期刊《自然》(Nature)上,清華大學(xué)教授、清華大學(xué)類腦計(jì)算中心主任施路平和清華大學(xué)計(jì)算機(jī)系研究員張悠慧為該論文的共同通訊作者。

更具魯棒性與通用性的通用人工智能

通用人工智能是具備與人類同等智慧或超越人類的人工智能,通常把人工智能和意識(shí)、感性、知識(shí)和自覺等人類的特征互相連結(jié),能表現(xiàn)正常人類所具有的所有智能行為,是人工智能研究的主要目標(biāo)之一,同時(shí)也是科幻小說和未來學(xué)家都在討論的主要議題。

業(yè)內(nèi)認(rèn)為,當(dāng)前的人工智能成果大都是“狹隘”的,即面向特定任務(wù),只能解決特定問題。目前基于馮·諾依曼架構(gòu)的計(jì)算機(jī)擅長(zhǎng)解決有充足大數(shù)據(jù)、完整靜態(tài)知識(shí)的確定性問題(比如深度學(xué)習(xí)在圍棋比賽、圖像識(shí)別等領(lǐng)域的應(yīng)用)已經(jīng)不遜于人類,但并沒有能力很好地解決沒有那么多數(shù)據(jù)、動(dòng)態(tài)知識(shí)尚不足的模糊性問題。

未來,人工智能的發(fā)展必將從“狹隘”的弱人工智能走向更具魯棒性與通用性的通用人工智能,但當(dāng)前的人工智能技術(shù)距離達(dá)到人類水平的通用人工智能還有很長(zhǎng)的路要走。

一直以來,類腦計(jì)算都被認(rèn)為是打開通用人工智能的鑰匙。去年 10 月,施路平在北京智源大會(huì)“智能體系架構(gòu)與芯片專題論壇”中的主題演講中曾表示,“基于碳基已經(jīng)發(fā)展出現(xiàn)有的人類智能,基于硅芯片已經(jīng)發(fā)展出強(qiáng)大的機(jī)器智能,一旦實(shí)現(xiàn)人類的全腦解析,采用類腦計(jì)算構(gòu)建通用人工智能是完全沒有障礙的。”

他還表示,通用人工智能的研究,從根本上來講,不同于把很多的窄人工智能加在一起,其主要研究思路是把類腦的彈性和計(jì)算機(jī)的剛性結(jié)合起來,把數(shù)據(jù)驅(qū)動(dòng)和知識(shí)推動(dòng)結(jié)合起來,把通用知識(shí)和推理結(jié)合起來,這是一個(gè)非常有挑戰(zhàn)的長(zhǎng)期的研究。

如今,盡管類腦計(jì)算系統(tǒng)已與人工智能技術(shù)結(jié)合,并被業(yè)內(nèi)專家認(rèn)為可能提供一條通向通用人工智能的途徑,在更通用算法的應(yīng)用層面也有著一定的突破和發(fā)展,但要保證類腦計(jì)算系統(tǒng)的性能、可編程性和生產(chǎn)效率,仍然面臨著不小的挑戰(zhàn)和極高的要求。

尤其是,當(dāng)前類腦計(jì)算的系統(tǒng)和芯片,雖然具體類型有所不同,但都比較側(cè)重于端到端的軟硬件協(xié)同設(shè)計(jì)方法,缺乏一種可以將算法、芯片和器件等不同領(lǐng)域技術(shù)和需求有機(jī)結(jié)合起來的軟硬件系統(tǒng)層次結(jié)構(gòu)設(shè)計(jì)。

而此次這一最新研究成果的提出,或許為通用人工智能的加速到來提供了可能。

全新概念:神經(jīng)形態(tài)完備性

當(dāng)前,幾乎所有現(xiàn)有的編程語言都是圖靈完備的,馮·諾依曼結(jié)構(gòu)通過圖靈完備的接口(即通用指令集)支持圖靈機(jī),通過引入圖靈完備性以及基于圖靈完備性的層次結(jié)構(gòu)和馮·諾依曼體系結(jié)構(gòu),避免了當(dāng)前計(jì)算系統(tǒng)中軟件和硬件之間的緊密耦合,實(shí)現(xiàn)了高效、兼容和獨(dú)立的進(jìn)程,通過設(shè)置硬件(圖靈完備性)的最低要求,在任何馮·諾依曼處理器(編譯)上將任何高級(jí)語言的程序轉(zhuǎn)換成等效的指令序列變得可行。

相比之下,類腦計(jì)算目前缺乏一個(gè)簡(jiǎn)單但健全的系統(tǒng)層次結(jié)構(gòu)來支持整體開發(fā),神經(jīng)形態(tài)軟件和硬件之間沒有清晰完備的接口,不同研究方面之間的交互也比較復(fù)雜。

盡管各種基于類腦計(jì)算的算法、計(jì)算模型和軟件設(shè)計(jì)不斷出現(xiàn),科研人員也研發(fā)出了各類神經(jīng)形態(tài)芯片,但它們通常都需要特定的軟件工具鏈才能正常運(yùn)行。其結(jié)果是,類腦計(jì)算系統(tǒng)(包括應(yīng)用程序模型、系統(tǒng)軟件和神經(jīng)形態(tài)設(shè)備)的各個(gè)層被緊密綁定在了一起,影響了軟件和硬件之間的兼容性,損害了類腦計(jì)算系統(tǒng)的編程靈活性和開發(fā)效率。

一些研究試圖通過特定領(lǐng)域的語言或開發(fā)框架連接各種軟件和硬件,但這些研究通常沒有考慮系統(tǒng)的圖靈完備性,在解決諸如硬件完備性、編程語言完備性和類腦計(jì)算的系統(tǒng)層次結(jié)構(gòu)等更基本的問題上,近年來也幾乎沒有什么大的進(jìn)展。而且,由于許多類腦芯片不是為通用計(jì)算而設(shè)計(jì)的,而且它們中很少提供傳統(tǒng)的指令集,因此不清楚它們是否是圖靈完備的,甚至不清楚圖靈完備是否是必要的。

為解決上述問題,施路平、張悠慧等人在這項(xiàng)研究中提出了"神經(jīng)形態(tài)完備性"的概念,這是一種更具適應(yīng)性、更廣泛的類腦計(jì)算完備性的定義,它降低了系統(tǒng)對(duì)神經(jīng)形態(tài)硬件的完備性要求,提高了不同硬件和軟件設(shè)計(jì)之間的兼容性,并通過引入一個(gè)新的維度——近似粒度(the approximation granularity)來擴(kuò)大設(shè)計(jì)空間。

同時(shí),他們也提出了一種全新的系統(tǒng)層次結(jié)構(gòu),這一結(jié)構(gòu)包括軟件、硬件和編譯三個(gè)層次,具有圖靈完備的軟件抽象模型和通用的抽象神經(jīng)形態(tài)結(jié)構(gòu)。在該系統(tǒng)層次結(jié)構(gòu)下,各種程序可以用統(tǒng)一的表示來描述,在任何神經(jīng)形態(tài)完備的硬件上都能轉(zhuǎn)換為等效的可執(zhí)行程序,從而確保編程語言的可移植性、硬件的完備性和編譯的可行性。

圖|類腦計(jì)算系統(tǒng)和傳統(tǒng)計(jì)算系統(tǒng)的層次結(jié)構(gòu)(來源:Nature)

軟件指的是編程語言或框架以及建立在它們之上的算法或模型。在這個(gè)層次上,他們提出了一種統(tǒng)一的、通用的軟件抽象模式——POG 圖(programming operator graph)——以適應(yīng)各種類腦算法和模型設(shè)計(jì)。POG 由統(tǒng)一的描述方法和事件驅(qū)動(dòng)的并行程序執(zhí)行模型組成,該模型集成了存儲(chǔ)和處理,描述了什么是類腦程序,并定義了如何執(zhí)行。由于 POG 是圖靈完備的,它最大程度地支持各種應(yīng)用程序、編程語言和框架。
硬件方面,則包括所有類腦芯片和架構(gòu)模型。他們?cè)O(shè)計(jì)了抽象神經(jīng)形態(tài)體系結(jié)構(gòu)(ANA)作為硬件抽象,包括一個(gè) EPG 圖(execution primitive graph),作為上層的接口來描述它可以執(zhí)行的程序。EPG 具有控制-流-數(shù)據(jù)流的混合表示,最大化了它對(duì)不同硬件的適應(yīng)性,且符合當(dāng)前硬件的發(fā)展趨勢(shì),即混合架構(gòu)。

編譯層,是將程序轉(zhuǎn)換為硬件支持的等效形式的中間層。為實(shí)現(xiàn)可行性,研究人員提出了一套被主流類腦芯片廣泛支持的基本硬件執(zhí)行原語(hardware execution primitives),并證明配備這套硬件的神經(jīng)形態(tài)是完備的,并以一個(gè)工具鏈軟件作為編譯層的實(shí)例,論證了該層次結(jié)構(gòu)的可行性、合理性和優(yōu)越性。

對(duì)此,研究人員認(rèn)為,這一層次結(jié)構(gòu)促進(jìn)了軟硬件的協(xié)同設(shè)計(jì),可以避免硬件和軟件之間的緊密耦合,確保任何類腦程序都可以由圖靈完備的 POG 在任何神經(jīng)形態(tài)完備硬件上編譯成一個(gè)等效和可執(zhí)行的 EPG,也確保了類腦計(jì)算系統(tǒng)的編程可移植性、硬件完備性和編譯可行性。

此外,他們也實(shí)現(xiàn)了工具鏈軟件的設(shè)計(jì),以支持不同類型的程序在各種典型的硬件平臺(tái)上執(zhí)行,證明了這一系統(tǒng)層次結(jié)構(gòu)的優(yōu)勢(shì)。結(jié)合所提出的系統(tǒng)架構(gòu)(包括軟件和硬件抽象模型),擴(kuò)充的完備性定義使圖靈完備性軟件與神經(jīng)形態(tài)完備性硬件的等效轉(zhuǎn)換成為可能,即實(shí)現(xiàn)了軟件和硬件的去耦合。(學(xué)術(shù)君注:軟硬件去耦合是計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)中非常重要的設(shè)計(jì)方法論,基于此,軟件研發(fā)人員不需要考慮如何設(shè)計(jì)底層硬件,硬件開發(fā)人員也只需要遵循一定指令集規(guī)范,不用擔(dān)心兼容性和上層軟件開發(fā)的問題。)

這一設(shè)計(jì)理念使得系統(tǒng)不同方面之間的接口和劃分更加清晰,他們希望在當(dāng)前層次結(jié)構(gòu)的基礎(chǔ)上繼續(xù)攻關(guān),進(jìn)一步提高類腦計(jì)算系統(tǒng)的效率和可兼容性,從而促進(jìn)包括通用人工智能在內(nèi)的各個(gè)應(yīng)用方向的發(fā)展。

神經(jīng)形態(tài)計(jì)算領(lǐng)域“重要一步”

對(duì)于這一最新研究成果,英國(guó)曼徹斯特大學(xué)(University of Manchester)計(jì)算機(jī)科學(xué)系博士奧利弗·羅茲(Oliver Rhodes)給出了高度評(píng)價(jià),認(rèn)為“這一方法讓我們更接近利用類腦硬件所能取得的巨大成就”。

在他看來,這項(xiàng)研究的一個(gè)亮點(diǎn)為,施路平和張悠慧等人提出了具有完備性的連續(xù)統(tǒng)一體(continuum of completeness)——根據(jù)神經(jīng)形態(tài)系統(tǒng)執(zhí)行基本操作的準(zhǔn)確性,可接受不同級(jí)別的算法性能,意味著新的層次結(jié)構(gòu)可以使用所有可用的模擬和數(shù)字神經(jīng)形態(tài)系統(tǒng)來實(shí)現(xiàn),包括那些為執(zhí)行速度或能源效率而犧牲精度的系統(tǒng)。

羅茲還表示,這一層次結(jié)構(gòu)可以比較實(shí)現(xiàn)相同算法的等效版本的不同硬件平臺(tái),以及比較在同一硬件上實(shí)現(xiàn)的不同算法,這些都是對(duì)神經(jīng)形態(tài)體系結(jié)構(gòu)進(jìn)行有效基準(zhǔn)測(cè)試的關(guān)鍵任務(wù),在原理證明實(shí)驗(yàn)中包括傳統(tǒng)圖靈完備的硬件(GPU)也是非常有價(jià)值的,因?yàn)檫@表明,在某些應(yīng)用中,該層次結(jié)構(gòu)可能被用來證明神經(jīng)形態(tài)設(shè)備優(yōu)于主流系統(tǒng)的優(yōu)勢(shì)。

另外,這一層次結(jié)構(gòu)還可以將算法和硬件開發(fā)分割成獨(dú)立的研究,如果要獲得底層神經(jīng)形態(tài)架構(gòu)的好處,算法的規(guī)模和復(fù)雜性將需要隨著時(shí)間的推移而增加,因此這種分離將幫助未來的研究人員專注于研究問題的特定方面,而不是試圖找到完整的端到端解決方案。

盡管在神經(jīng)形態(tài)計(jì)算領(lǐng)域,要把許多工業(yè)和學(xué)術(shù)研究小組的工作結(jié)合起來,還有很多工作要做,但羅茲認(rèn)為,施路平和張悠慧等人此次提出這一層次結(jié)構(gòu),是朝著這個(gè)方向邁出的重要一步。

群雄角逐“類腦計(jì)算”

近年來,隨著摩爾定律逐漸失效,馮·諾依曼結(jié)構(gòu)帶來的局限日益明顯,存儲(chǔ)墻、功耗墻、智能提升等問題,讓當(dāng)前計(jì)算機(jī)發(fā)展面臨重大挑戰(zhàn)。人們普遍認(rèn)為,數(shù)字計(jì)算機(jī)能力的進(jìn)步速度正在放緩,以摩爾定律為特征的計(jì)算機(jī)時(shí)代即將結(jié)束。

而從人類大腦中汲取靈感的類腦計(jì)算或神經(jīng)形態(tài)計(jì)算,是一種有潛力打破馮·諾伊曼瓶頸并推動(dòng)下一波計(jì)算機(jī)工程的計(jì)算模型和架構(gòu)。

類腦計(jì)算的概念最早由美國(guó)計(jì)算機(jī)科學(xué)家、美國(guó)加州理工學(xué)院榮譽(yù)退休教授卡弗·米德(Carver Mead)于 1989 年出,但當(dāng)時(shí)摩爾定律下的“計(jì)算危機(jī)”并未顯現(xiàn),相關(guān)研究也就并沒有引起太多人的關(guān)注。直到 2004 年單核處理器主頻停止增長(zhǎng),人們開始轉(zhuǎn)向多核,尋求非馮諾依曼架構(gòu)的替代技術(shù),類腦計(jì)算這一概念才開始引起人們的關(guān)注。

如今,人工智能賦能下的類腦計(jì)算技術(shù)被認(rèn)為是可能提供一條通向通用人工智能的途徑,世界各國(guó)的科研學(xué)者和研究機(jī)構(gòu)也相繼開展腦相關(guān)研究并取得了一系列成果。國(guó)外主要有 IBM 的 TrueNorth、英特爾的 Loihi,以及 Braindrop、SpiNNaker 和 BrainScales 等,而中國(guó)在這一領(lǐng)域也處于世界前列。

自 2013 年 3 月全職入職清華大學(xué)、組建清華大學(xué)類腦計(jì)算研究中心后,施路平團(tuán)隊(duì)就始終從基礎(chǔ)理論、類腦計(jì)算系統(tǒng)芯片和軟件系統(tǒng)全方位進(jìn)行類腦計(jì)算研究。

去年 8 月,施路平團(tuán)隊(duì)攜手第三代“天機(jī)芯”登上《自然》雜志封面(《面向人工通用智能的異構(gòu)天機(jī)芯片架構(gòu)》(Towards artificial general Intelligence with hybrid Tianjic chip architecture),這是世界上首款異構(gòu)融合類腦芯片,并通過自動(dòng)駕駛自行車成功驗(yàn)證了通用智能的可行性。此次研究成果是施路平團(tuán)隊(duì)在類腦計(jì)算與通用人工智能領(lǐng)域的進(jìn)一步探索。

今年 9 月,浙江大學(xué)聯(lián)合之江實(shí)驗(yàn)室共同研制成功了我國(guó)首臺(tái)基于自主知識(shí)產(chǎn)權(quán)類腦芯片的類腦計(jì)算機(jī)(Darwin Mouse),是目前國(guó)際上神經(jīng)元規(guī)模最大的類腦計(jì)算機(jī)。

未來,隨著人工智能與腦科學(xué)研究進(jìn)一步發(fā)展,具有人類智慧的類腦系統(tǒng)和通用人工智能,或許并不是遙不可及的夢(mèng)想。

圖片標(biāo)題

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)