鯤云科技近日攜手百度飛槳（PaddlePaddle），完成了搭載CAISA芯片的鯤云星空X3加速卡對(duì)PaddlePaddle框架模型轉(zhuǎn)化的全面支持。這意味著鯤云自主研發(fā)的全球首款數(shù)據(jù)流AI芯片CAISA，可快速適配百度飛槳PaddleX模型格式，支持主流算法網(wǎng)絡(luò)，穩(wěn)定運(yùn)行，能夠達(dá)到兼容性及性能、可靠性要求，便于開(kāi)發(fā)者快速實(shí)現(xiàn)多樣化AI應(yīng)用部署，這次合作進(jìn)一步擴(kuò)大了雙方在AI產(chǎn)業(yè)的創(chuàng)新生態(tài)。

Paddle模型到星空X3加速卡轉(zhuǎn)換部署流程

鯤云科技自成立以來(lái)，一直深耕數(shù)據(jù)流AI芯片的自主研發(fā)，已實(shí)現(xiàn)量產(chǎn)的CAISA芯片，在芯片利用率上提升了最高11．6倍，其高算力性價(jià)比、高架構(gòu)通用性及高軟件易用性的優(yōu)勢(shì)，在與百度飛槳的適配過(guò)程中得到了更好的呈現(xiàn)。搭載CAISA芯片的星空X3加速卡峰值性能為10．9TOPs，實(shí)測(cè)結(jié)果顯示運(yùn)行ResNet50的延時(shí)低至3．38ms，吞吐率達(dá)到1181．68fps，在精度保證的情況下，性能表現(xiàn)優(yōu)于同類產(chǎn)品。

星空X3加速卡

百度飛槳深度學(xué)習(xí)平臺(tái)提供了快速有效搭建訓(xùn)練深度學(xué)習(xí)模型的方案，并透過(guò)Paddle2ONNX模塊與鯤云的星空X3加速卡完成了簡(jiǎn)單快速的適配。在飛漿全流程開(kāi)發(fā)圖形化工具PaddleX和鯤云自行研發(fā)的RainBuilder編譯器支持下，星空X3加速卡在離線狀態(tài)將ONNX等模型格式轉(zhuǎn)換成IR格式后在RainBuilder Runtime上部署，支持ResNet， YOLO， DeepLab 等各種CNN類主流算法推斷模型，開(kāi)發(fā)者只需兩步，便可輕易實(shí)現(xiàn)模型到硬件的部署和運(yùn)行。

RainBuilder端到端自動(dòng)編譯工具鏈

飛槳是中國(guó)首個(gè)開(kāi)源開(kāi)放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)，鯤云是國(guó)內(nèi)數(shù)據(jù)流AI芯片研發(fā)的先行者，致力于加速人工智能在產(chǎn)業(yè)的落地和應(yīng)用。本次合作為人工智能開(kāi)發(fā)者提供了更高效的多樣化AI部署選擇，進(jìn)一步降低了 AI 應(yīng)用的開(kāi)發(fā)難度，提高開(kāi)發(fā)效率，未來(lái)，百度飛槳與鯤云科技將在底層架構(gòu)和硬件上進(jìn)一步推進(jìn)合作，為自主人工智能產(chǎn)業(yè)的發(fā)展提供新的探索方向。

關(guān)于百度飛漿PaddlePaddle

飛槳（PaddlePaddle）以百度多年的深度學(xué)習(xí)技術(shù)研究和業(yè)務(wù)應(yīng)用為基礎(chǔ)，集深度學(xué)習(xí)核心訓(xùn)練和推理框架、基礎(chǔ)模型庫(kù)、端到端開(kāi)發(fā)套件和豐富的工具組件于一體，是中國(guó)首個(gè)自主研發(fā)、功能完備、開(kāi)源開(kāi)放的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)。飛槳企業(yè)版針對(duì)企業(yè)級(jí)需求增強(qiáng)了相應(yīng)特性，包含零門(mén)檻AI開(kāi)發(fā)平臺(tái)EasyDL和全功能AI開(kāi)發(fā)平臺(tái)BML。EasyDL主要面向中小企業(yè)，提供零門(mén)檻、預(yù)置豐富網(wǎng)絡(luò)和模型、便捷高效的開(kāi)發(fā)平臺(tái)；BML是為大型企業(yè)提供的功能全面、可靈活定制和被深度集成的開(kāi)發(fā)平臺(tái)。目前，飛槳累計(jì)開(kāi)發(fā)者320萬(wàn)，服務(wù)企業(yè)12萬(wàn)家，基于飛槳開(kāi)源深度學(xué)習(xí)平臺(tái)產(chǎn)生了36萬(wàn)個(gè)模型。飛槳助力開(kāi)發(fā)者快速實(shí)現(xiàn)AI想法，快速上線AI業(yè)務(wù)。幫助越來(lái)越多的行業(yè)完成AI賦能，實(shí)現(xiàn)產(chǎn)業(yè)智能化升級(jí)。

關(guān)于鯤云RainBuilder編譯工具鏈

專為CAISA架構(gòu)設(shè)計(jì)的RainBuilder編譯工具鏈提供從算法模型到板級(jí)產(chǎn)品部署的一整套開(kāi)發(fā)套件，包括RainBuilder Compiler、RainBuilder Runtime和RainBuilder Driver三層。RainBuilder Compiler支持算法模型的智能解析、自動(dòng)化量化壓縮、節(jié)點(diǎn)融合、內(nèi)存優(yōu)化，能夠?qū)⒛Ｐ娃D(zhuǎn)化為適用于CAISA架構(gòu)的中間表達(dá)和數(shù)據(jù)。RainBuilder Runtime提供性能模型分析、精度驗(yàn)證、自動(dòng)線程調(diào)度、軟硬件并行、異常處理等功能，為用戶提供豐富易用的開(kāi)發(fā)接口以完成對(duì)底層AI硬件的高效應(yīng)用。RainBuilder Driver支持CAISA硬件架構(gòu)驅(qū)動(dòng)、硬件模塊計(jì)算調(diào)度以及硬件模型分析，可以自動(dòng)進(jìn)行細(xì)粒度性能優(yōu)化及調(diào)度。RainBuilder使用過(guò)程簡(jiǎn)單便捷，支持用戶自定義算子，用戶無(wú)需對(duì)底層硬件有深入的了解，只需兩步，即可通過(guò)基于C＋＋／Python的標(biāo)準(zhǔn)開(kāi)發(fā)流程實(shí)現(xiàn)算法快速部署。