日前，天數(shù)智芯發(fā)布首個正式流片的高性能邊緣端AI推理芯片——Iluvatar CoreX I AI芯片。該芯片的發(fā)布，標(biāo)志著天數(shù)智芯真正將AI技術(shù)轉(zhuǎn)化成產(chǎn)品，也意味著天數(shù)智芯從邊緣到云端“芯云戰(zhàn)略”已進(jìn)入落地階段，賦能企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型，助力行業(yè)智慧發(fā)展。

天數(shù)智芯名稱由來

天數(shù)智芯CEO李云鵬介紹了天數(shù)智芯名稱的由來，其中天是代表著大，數(shù)則代表著數(shù)字經(jīng)濟(jì)時代。而天數(shù)智芯的英文名稱Iluvatar是創(chuàng)世女神的意思，代表著創(chuàng)新、演進(jìn)、價值和引領(lǐng)。

李云鵬指出，天數(shù)智芯的目標(biāo)應(yīng)用是從軌道交通安全需求點(diǎn)出發(fā)，以行業(yè)智能解決方案的維度，為鐵路安全提供云端及邊緣的產(chǎn)品及方案支持，實(shí)現(xiàn)及時響應(yīng)，有效管理等特點(diǎn)。目前全國共有三千組高速動車組列車和兩萬臺機(jī)車，每臺機(jī)車和動車組由十萬級別的零配件組成，每個零配件的健康直接影響鐵路運(yùn)輸?shù)陌踩�。此外，還有一系列鐵路運(yùn)輸所牽扯到的貨場安全問題。

李云鵬表示，天數(shù)智芯的基礎(chǔ)算力產(chǎn)品，不僅僅可以為軌道交通行業(yè)服務(wù)，還可以和石油、天然氣開采和運(yùn)輸行業(yè)，風(fēng)電等新能源行業(yè)，以及船舶制造等大型裝備制造行業(yè)合作，共同推廣智能化解決方案，實(shí)現(xiàn)智能制造產(chǎn)業(yè)互聯(lián)網(wǎng)。

天數(shù)智芯CEO李云鵬

李云鵬認(rèn)為，IT系統(tǒng)升級、大數(shù)據(jù)平臺和物聯(lián)網(wǎng)技術(shù)三者融合的行業(yè)垂直解決方案，必須有一個立足點(diǎn)，有一個軟硬件結(jié)合的系統(tǒng)和產(chǎn)品，其中軟件是算力的支撐，也是靈活優(yōu)化場景化行業(yè)的手段。而硬件也就是芯片，由于其迭代周期較長，因此不僅要支持現(xiàn)有火熱的AI數(shù)據(jù)處理應(yīng)用，也要符合過去傳統(tǒng)的智能應(yīng)用等大規(guī)模需求，以及滿足未來對算力發(fā)展及通用算力支撐的藍(lán)圖。

從軟件角度上來說，天數(shù)智芯三年多的歷程完整的實(shí)現(xiàn)了Soft Silicon技術(shù)，已經(jīng)推出了第四代SkyDiscovery，滿足大數(shù)據(jù)、人工智能計(jì)算平臺軟件平臺。

而今芯片平臺的正式發(fā)布，意味著天數(shù)智芯愿景的正式落地。

李云鵬表示，天數(shù)智芯的GPGPU架構(gòu)（General Purpose Computing on GPU），即在圖形圖像顯示架構(gòu)上，支持通用型計(jì)算。是最細(xì)力度的可編程，可根據(jù)云、邊、端不同特征進(jìn)行擴(kuò)展和配置的產(chǎn)品。這個架構(gòu)既可以為已有的CUDA生態(tài)產(chǎn)品提供了原生兼容性支撐，同時也可以保證透明遷移，也就是說可確保國產(chǎn)技術(shù)的順利替換。

在接受采訪時，李云鵬也坦言目前天數(shù)智芯面向的對象包括鐵路交通、智能垃圾箱分類以及某風(fēng)力發(fā)電客戶，對于他們的企業(yè)級客戶而言，賣芯片或賣板卡的方式并不適合，中國市場需要的是解決方案，需要軟硬件一體化提供更多的增值服務(wù)。

Iluvatar CoreX I露真容

在發(fā)布會現(xiàn)場，天數(shù)智芯副總裁梁斌詳細(xì)介紹了Iluvatar CoreX I的情況。

具有的特點(diǎn)包括：一、高精度，可減少模型量化帶來的精度損失；二、高算力，在小于5瓦的功耗情況下，提高高達(dá)4．8TFlops的算力，和每秒1000幀的圖像處理能力。8卡級聯(lián)時，可以提供最多38TFLOPS算力。三、提供原生TensorFlow的兼容，讓客戶應(yīng)用可以無感遷移。四、工業(yè)級解決方案，符合穩(wěn)定性、安全性等特點(diǎn)。五、針對行業(yè)用戶提供一站式、端到端的完整解決方案，提供軟硬件結(jié)合的開發(fā)環(huán)境。

Iluvatar CoreX I詳細(xì)指標(biāo)包括：利用TSMC 16nm工藝，采用全自研數(shù)據(jù)流架構(gòu)，內(nèi)核可以提供32路數(shù)據(jù)并行處理的能力，提供4路PCIe，可通過芯片級聯(lián)和板卡級聯(lián)提升計(jì)算力。對于算法方面，芯片針對CNN主流神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，支持物體檢測、物體識別、人臉識別、行為識別、姿勢識別等不同應(yīng)用場景，可以廣泛應(yīng)用于不同的邊緣計(jì)算中，對計(jì)算力有需求的場景。

梁斌指出，通過對主流算法的優(yōu)化，基于數(shù)據(jù)流的高能效運(yùn)算，高帶寬，高容量的本地內(nèi)存，Iluvatar CoreX I有效得解決了目前主流競品計(jì)算力不足的核心問題。而從應(yīng)用角度來說，天數(shù)智芯通過與成熟的開發(fā)生態(tài)系統(tǒng)原生兼容，客戶可以無需任何代碼改動，實(shí)現(xiàn)應(yīng)用的遷移，平均平臺的適配周期1－2個星期。”市面上第三方的AI芯片產(chǎn)品，因?yàn)槟壳笆袌錾洗蟛糠中酒�產(chǎn)品基于底層軟件庫和自研開發(fā)編譯器SDK，客戶的應(yīng)用通過耗時耗力的代碼轉(zhuǎn)換，適配周期大多耗時1－3個月甚至更長�！绷罕笳f道。目前算法支持通用CNN主流網(wǎng)絡(luò)，如VGG、ResNet、YOLOv2等算法模型，用于各類檢測、識別和分類的應(yīng)用場景。

而在CPU方面，Iluvatar CoreX I同樣擁有靈活的適配性，可與X86架構(gòu)、Arm架構(gòu)或者是國產(chǎn)CPU架構(gòu)等適配；而在可擴(kuò)展方面，支持多芯片，多板卡級聯(lián)的方案。

“目前市面上主要競品15瓦功耗，算力為1．5TFLOPS，而Iluvatar CoreX I在低于4．7瓦的功耗下，提供4．8TFLOPS的計(jì)算力，相比主流競品，我們提供超過十倍的能效比�！绷罕笳f道�！皩�(shí)際測試結(jié)果也表明，在物體分類場景下天數(shù)智芯性能相比對手高出兩倍，能效提升8倍，在物體識別場景中也有類似表現(xiàn)�！�

與芯片配套的則是云、邊、端三層次的人工智能軟件平臺——SkyDiscovery。提供數(shù)據(jù)集成，智能數(shù)據(jù)存儲，模型評估服務(wù)部署的一站式服務(wù)，可在云、邊、端協(xié)同工作。由于是自有的軟硬件一體化，因此可從軟件底層提供針對天數(shù)智芯芯片的支持，實(shí)現(xiàn)更好的配合。

梁斌介紹道，天數(shù)智芯并不直接對外銷售芯片，而是提供板卡級的產(chǎn)品，一種形式是系統(tǒng)級板卡，直接賦能智能垃圾分類、智能零售、智能監(jiān)控等不同的嵌入式邊緣端應(yīng)用。另外一種則是PCIe邊緣端加速卡，直接插在服務(wù)器上進(jìn)行加速。

在此次發(fā)布會上，天數(shù)智芯帶來了諸多基于Iluvatar CoreX I的實(shí)際場景，通過結(jié)合應(yīng)用，展現(xiàn)出天數(shù)智芯賦能AI的具體措施，包括智能軌道交通的傳感器數(shù)據(jù)融合、本地化實(shí)時數(shù)據(jù)處理、實(shí)時監(jiān)控、管理及預(yù)警等工作。而在智能醫(yī)療方面，包括藥房藥品識別分析，內(nèi)部告警等作用。智慧園區(qū)則包括了人臉識別、員工身份認(rèn)證、行為識別等。智能垃圾分類是通過攝像頭進(jìn)行回收物識別和人臉識別等應(yīng)用。

針對未來芯片規(guī)劃，梁斌表示公司正在開發(fā)7nm工藝的自研GPGPU架構(gòu)高端云端訓(xùn)練芯片，以及一款中端GPGPU邊緣云推理芯片，結(jié)合已發(fā)布的 Iluvatar CoreX I設(shè)備端芯片，打造出云、邊、端的全方位覆蓋。

李云鵬表示，希望天數(shù)智芯在未來的三年中，不僅實(shí)現(xiàn)盈虧平衡，而且能夠有利潤去不斷擴(kuò)充基礎(chǔ)投入，確保公司發(fā)展20年以上，把產(chǎn)品真正做到國際一流水平。“天數(shù)智芯自2015年成立以來，經(jīng)歷了初創(chuàng)期的懵懂、野蠻生長和碰壁，走過了一條完整的初創(chuàng)型閉環(huán)。今天我們選擇在杭州西子湖畔召開芯戰(zhàn)略發(fā)布會，標(biāo)志著天數(shù)智芯迎來了新起點(diǎn)，迎來了有機(jī)成長期�！崩钤迄i說道。