制訂行業(yè)標(biāo)準(zhǔn)一直是行業(yè)老大們熱衷于做的事，而在高速發(fā)展的AI芯片領(lǐng)域，話語(yǔ)權(quán)一直掌握在美國(guó)手中。國(guó)內(nèi)有沒(méi)有自己的行業(yè)標(biāo)準(zhǔn)呢？有，但影響力都有限，很難成為國(guó)際通用標(biāo)準(zhǔn)。其中，由信通院主導(dǎo)，發(fā)改委、科技部、工信部、網(wǎng)信辦等多部門(mén)背書(shū)的AI芯片新標(biāo)準(zhǔn)AIIA DNN benchmark是其中最有可能跑出來(lái)的。

幾日前，WIFI聯(lián)盟等通信行業(yè)標(biāo)準(zhǔn)聯(lián)盟組織撤銷華為會(huì)員資格一事，引起業(yè)界嘩然。

盡管5月29日這些聯(lián)盟已經(jīng)迅速恢復(fù)華為資格，但這已經(jīng)足夠令人警醒：不掌握行業(yè)標(biāo)準(zhǔn)的話語(yǔ)權(quán)，隨時(shí)可能出局。方興未艾的AI芯片行業(yè)更是如此。

如何檢測(cè)一塊AI芯片的性能？如今最簡(jiǎn)單直白的方式就是“不服跑個(gè)分”。

分?jǐn)?shù)確實(shí)是衡量性能的直觀方式，而跑分也經(jīng)常被安卓手機(jī)作為衡量性能的重要手段之一，甚至已經(jīng)從單純的芯片跑分蔓延至相機(jī)跑分。

對(duì)AI芯片來(lái)說(shuō)，確實(shí)也需要一些方式來(lái)作為衡量標(biāo)準(zhǔn)，即Benchmark，通過(guò)一些基準(zhǔn)對(duì)芯片進(jìn)行測(cè)評(píng)，并以直觀的數(shù)據(jù)等形式來(lái)衡量芯片的真實(shí)水平。

因此Benchmark的設(shè)立某種程度上代表著芯片的行業(yè)標(biāo)準(zhǔn)，成為芯片廠商們?cè)谠O(shè)計(jì)芯片時(shí)瞄準(zhǔn)的方向。

1 權(quán)威Benchmark缺位，廠商和用戶雞同鴨講

縱觀計(jì)算機(jī)體系結(jié)構(gòu)的發(fā)展史，Benchmark一直在幕后擔(dān)任著指揮棒的角色，深刻地影響、甚至左右著芯片行業(yè)的發(fā)展。

遠(yuǎn)到超算領(lǐng)域的Linpack，CPU界的SPEC，近到GPU世界的3DMark以及智能手機(jī)的AnTuTu，不知道有多少公司多少工程師為此而“分”狂。

AI 領(lǐng)域的Benchmark卻一直缺乏一個(gè)權(quán)威有力的平臺(tái)來(lái)給出標(biāo)準(zhǔn)。

對(duì)于AI芯片的衡量標(biāo)準(zhǔn)是多維度的，影響一款芯片的性能主要有三個(gè)因素：

首先是芯片設(shè)計(jì)。在芯片設(shè)計(jì)中，主要的指標(biāo)是芯片的算力，即每秒的運(yùn)算次數(shù)，一般以TOPS為單位（每秒進(jìn)行1012次運(yùn)算），如果將算力比喻成芯片的肌肉，算力只能作為芯片的規(guī)模，而不能代表整體的能力。

越多的算力堆砌往往意味著著越高的功耗，而既降低功耗又能達(dá)到更好效果才是一塊優(yōu)質(zhì)芯片的設(shè)計(jì)方向。此外，系統(tǒng)帶寬設(shè)計(jì)、非深度學(xué)習(xí)部分的加速等等都是芯片設(shè)計(jì)的一部分。

第二點(diǎn)是算法優(yōu)化，例如某個(gè)硬件架構(gòu)不適合某網(wǎng)絡(luò)，在選擇算法時(shí)，可以選擇其他適合這個(gè)硬件的算法網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)同樣的功能。

第三點(diǎn)是軟件代碼，即使是在芯片硬件、算法一致的情況下，代碼的質(zhì)量也會(huì)影響芯片的實(shí)際性能。因此要通過(guò)這三方面來(lái)評(píng)估，缺一不可。

影響因素又多又專業(yè)，但芯片好不好終究還是要看使用情況，這或許恰恰是AI芯片至今沒(méi)有一個(gè)權(quán)威Benchmark的原因所在。中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所副主任王蘊(yùn)韜近日在第三界全球人工智能大會(huì)上表示，目前的Benchmark測(cè)定標(biāo)準(zhǔn)和真正的客戶使用是有距離的。

生廠商和用戶一直存在著溝通不暢通的問(wèn)題。生產(chǎn)商的宣傳一般是：首款達(dá)到多少倍水平提升的芯片；超高性能，TOPS絕對(duì)領(lǐng)先；DSA硬件架構(gòu)最優(yōu)等等。但是站在用戶的角度，真正在意的是芯片是否匹配自己的業(yè)務(wù)需求；在部署、適配、擴(kuò)展的時(shí)候能否靈活快速；實(shí)際的性價(jià)比等等，往往廠商宣傳的數(shù)據(jù)并不是用戶首先考慮的點(diǎn)。

因此，AI芯片需要一個(gè)符合用戶需求的Benchmark，作為芯片消費(fèi)大國(guó)，中國(guó)也正在著手推進(jìn)自己的Benchmark。