技術(shù)的革新與承載它的計(jì)算能力息息相關(guān)，如今的人工智能技術(shù)正逐步從研究實(shí)驗(yàn)走向應(yīng)用與生產(chǎn)，在這一過(guò)程中，AI計(jì)算系統(tǒng)設(shè)計(jì)與優(yōu)化的重要性愈發(fā)明顯。

在不久的將來(lái)，AI計(jì)算系統(tǒng)將要面臨計(jì)算平臺(tái)優(yōu)化設(shè)計(jì)、復(fù)雜異構(gòu)環(huán)境下計(jì)算效率、計(jì)算框架的高度并行與擴(kuò)展、AI應(yīng)用計(jì)算性能等挑戰(zhàn)。算力的發(fā)展對(duì)整個(gè)計(jì)算需求所造成的挑戰(zhàn)會(huì)變得更大，提高整個(gè)AI計(jì)算系統(tǒng)的性能與效率迫在眉睫。

算力是人工智能的痛點(diǎn)

目前的人工智能，更多的是代表智能的個(gè)體，能夠通過(guò)自身的持續(xù)學(xué)習(xí)能力，智能的完成單點(diǎn)決策。

機(jī)器經(jīng)驗(yàn)需要由大量的歷史數(shù)據(jù)來(lái)得出，所以數(shù)據(jù)收集無(wú)處不在，數(shù)據(jù)的增長(zhǎng)會(huì)是幾何級(jí)數(shù)的。使用當(dāng)前集中式的存儲(chǔ)和集中式的通信模式，在未來(lái)是無(wú)論如何都無(wú)法通過(guò)一個(gè)巨型單點(diǎn)支撐如此大的體量，存儲(chǔ)和通信能力都是瓶頸，而且效率會(huì)非常低下。

不僅如此，算力成本也是人工智能行業(yè)的一大痛點(diǎn)�，F(xiàn)在的人工智能企業(yè)的硬件投入非常大。人工智能對(duì)計(jì)算的需求非常大，因此對(duì)高性能計(jì)算定制深度學(xué)習(xí)芯片要求很高，意味著很多企業(yè)要花很多錢(qián)買(mǎi)算力、建很多計(jì)算中心，造成了很大的資源浪費(fèi)。

AI計(jì)算能力愈發(fā)重要

全球人工智能市場(chǎng)商業(yè)價(jià)值一直處于高速增長(zhǎng)趨勢(shì)，到2018年，所催生的商業(yè)價(jià)值會(huì)達(dá)到1．3萬(wàn)億美元，而未來(lái)將會(huì)達(dá)到接近5萬(wàn)億美元。從技術(shù)成熟度曲線可以看到，未來(lái)2到5年會(huì)有大量AI技術(shù)實(shí)現(xiàn)從創(chuàng)新期到成長(zhǎng)期的過(guò)渡，現(xiàn)在仍有很多AI技術(shù)處于爬坡發(fā)展階段。

在推動(dòng)AI發(fā)展過(guò)程中，有三大要素起著主導(dǎo)作用，除算力、數(shù)據(jù)外，計(jì)算方面也越來(lái)越重要。2021年計(jì)算方面的投資將占到整個(gè)AI投資的近一半以上，2017年至2022年將會(huì)達(dá)到近6倍的增長(zhǎng)。

傳統(tǒng)服務(wù)器難以滿(mǎn)足AI算力需求

摩爾定律失效，CPU性能提升遭遇瓶頸。Intel宣布正式停用“Tick－Tock”處理器研發(fā)模式，未來(lái)研發(fā)周期將從兩年周期向三年期轉(zhuǎn)變。單顆CPU性能的提升在放緩，傳統(tǒng)服務(wù)器難以滿(mǎn)足并行算力需求，服務(wù)器CPU出貨量增長(zhǎng)停滯。

AI計(jì)算系統(tǒng)設(shè)計(jì)迫在眉睫

AI計(jì)算發(fā)展趨勢(shì)演變過(guò)程中面臨著巨大的挑戰(zhàn)：隨著模型所需的精度越高，所需的計(jì)算量也會(huì)呈現(xiàn)增長(zhǎng)趨勢(shì)。對(duì)于未來(lái)的，算法的發(fā)展對(duì)整個(gè)計(jì)算需求所造成的挑戰(zhàn)會(huì)變得更大，提高整個(gè)AI計(jì)算系統(tǒng)的性能與效率顯得尤為重要。

圍繞整個(gè)應(yīng)用、算力、模型、網(wǎng)絡(luò)的特點(diǎn)，例如有的模型參數(shù)比較密集，對(duì)系統(tǒng)通信要求比較高，有的計(jì)算性能要求比較高，則需要圍繞性能方面考慮如何提升整個(gè)系統(tǒng)性能的能力。

推理方面的復(fù)雜性比訓(xùn)練方面更高，它不僅體現(xiàn)在性能方面，更關(guān)心的是用戶(hù)的體驗(yàn)。當(dāng)對(duì)于大規(guī)模進(jìn)行部署云計(jì)算時(shí)，需要考慮到它的運(yùn)維成本，需要低功耗平臺(tái)架構(gòu)來(lái)做支撐。

AI算力和需求都日趨壯大

語(yǔ)音識(shí)別、虛擬現(xiàn)實(shí)與機(jī)器視覺(jué)已從導(dǎo)入期進(jìn)入成長(zhǎng)期。標(biāo)準(zhǔn)化的數(shù)據(jù)集豐富。語(yǔ)音與圖像數(shù)據(jù)較易標(biāo)簽化。15年圖像識(shí)別準(zhǔn)確率變已超過(guò)人類(lèi)。CNN、RNN等神經(jīng)網(wǎng)絡(luò)基礎(chǔ)算力成熟。根據(jù)Imagenet測(cè)試結(jié)果，語(yǔ)音識(shí)別與機(jī)器識(shí)別準(zhǔn)確率均已在90％以上。

如今，AI面臨著巨大的計(jì)算挑戰(zhàn)，提高AI計(jì)算系統(tǒng)性能與效率變得尤為重要，需要從系統(tǒng)的角度進(jìn)行綜合考慮。

自2012年以來(lái)，在大型AI運(yùn)算中用到的計(jì)算量呈指數(shù)式上升，并且3．5個(gè)月計(jì)算量就會(huì)翻一倍。從2012年以來(lái)，這一指標(biāo)已經(jīng)增長(zhǎng)了30萬(wàn)倍。計(jì)算力的提升是AI進(jìn)步的一大重要因素，所以只要這一趨勢(shì)仍然延續(xù)，就值得為AI未來(lái)的發(fā)展努力下去。

AI算力決定芯片崛起

在理論層面，基于大數(shù)據(jù)和深度學(xué)習(xí)的人工智能技術(shù)高度依賴(lài)于系統(tǒng)的數(shù)據(jù)處理與學(xué)習(xí)能力。因此，硬件的計(jì)算能力成為繼數(shù)據(jù)、算力之后，另一制約人工智能發(fā)展的主要瓶頸，硬件計(jì)算能力與能效對(duì)于人工智能技術(shù)主要影響云端和邊緣端兩大主要領(lǐng)域的應(yīng)用。

單CPU的發(fā)展已經(jīng)不能滿(mǎn)足實(shí)際應(yīng)用的需求，AI時(shí)代必須要依靠并行計(jì)算。目前，并行計(jì)算的主流架構(gòu)是異構(gòu)并行計(jì)算平臺(tái)。

以協(xié)同過(guò)濾算力為例，它是一種非常重要的推薦系統(tǒng)算力，為此設(shè)計(jì)了兩個(gè)計(jì)算核，一個(gè)是計(jì)算相似度，一個(gè)是計(jì)算平均值，把這些核心計(jì)算全部都在GPU上進(jìn)行計(jì)算來(lái)加速算力。

未來(lái)AI算力的發(fā)展

自2012年以來(lái)，人工智能訓(xùn)練任務(wù)中使用的算力正呈指數(shù)級(jí)增長(zhǎng)，其目前速度為每3．5個(gè)月翻一倍。

自2012年以來(lái)，人們對(duì)于算力的需求增長(zhǎng)了超過(guò)300，000倍，如果是以摩爾定律的速度，只會(huì)有12倍的增長(zhǎng)。在此期間，硬件算力的提升一直是人工智能快速發(fā)展的重要因素。因此，如果目前的發(fā)展趨勢(shì)持續(xù)下去，就需要為實(shí)現(xiàn)遠(yuǎn)超當(dāng)前方法負(fù)載的全新系統(tǒng)做好準(zhǔn)備。

從應(yīng)用場(chǎng)景來(lái)看，AI計(jì)算熱門(mén)行業(yè)場(chǎng)景覆蓋了互聯(lián)網(wǎng)、政府、醫(yī)療和金融四大行業(yè)，同時(shí)，根據(jù)市場(chǎng)潛力和時(shí)間發(fā)展成熟度，報(bào)告還對(duì)AI典型應(yīng)用場(chǎng)景進(jìn)行了評(píng)估，并預(yù)計(jì)未來(lái)2－3年，人工智能在生物識(shí)別和智慧城市建設(shè)領(lǐng)域的應(yīng)用將會(huì)率先步入商業(yè)應(yīng)用的成熟期；預(yù)計(jì)在未來(lái)5－10年，人工智能產(chǎn)業(yè)在智能家居和工業(yè)制造領(lǐng)域的應(yīng)用也將逐步步入高速發(fā)展的產(chǎn)業(yè)窗口。