阿里AI研究成果入選國(guó)際頂會(huì)ICML 2020,AI推理速度提升3倍
近日,人工智能國(guó)際頂會(huì)ICML 2020公布了論文收錄結(jié)果,阿里巴巴7篇論文入選,是入選論文數(shù)量最多的中國(guó)科技公司。ICML是機(jī)器學(xué)習(xí)領(lǐng)域全球最具影響力的學(xué)術(shù)會(huì)議之一,今年接受率僅為21.8%。
根據(jù)ICML官方顯示,阿里7篇論文涵蓋在圖像識(shí)別、自然語(yǔ)言處理、搜索推薦等領(lǐng)域的研究成果,其中一篇《Boosting Deep Neural Network Efficiency with Dual-Module Inference》,提出了一種全新的AI推理方法,可大幅減少AI對(duì)計(jì)算和內(nèi)存資源的消耗,能將推理速度提升3倍。
近年來(lái)AI模型變得越來(lái)越復(fù)雜化,尤其是類似語(yǔ)言AI這類復(fù)雜模型,給計(jì)算、內(nèi)存資源帶來(lái)了新的挑戰(zhàn)。目前,業(yè)界通用的解決方法是采用更先進(jìn)的計(jì)算性能來(lái)運(yùn)行AI任務(wù),例如采用GPU、FPGA或者NPU等異構(gòu)計(jì)算,但該方法并沒(méi)有從根源上解決問(wèn)題。
阿里巴巴達(dá)摩院設(shè)計(jì)出了一種“AI雙腦思考”的方法,能讓大型神經(jīng)網(wǎng)絡(luò)像人類一樣學(xué)會(huì)“快思考”與“慢思考”,從而進(jìn)行高效且準(zhǔn)確的推理過(guò)程。
該方法被稱為“雙模推理”, 即將一個(gè)復(fù)雜任務(wù)拆分成兩個(gè)任務(wù),例如在復(fù)雜AI推理任務(wù)過(guò)程中,可以先以很小的資源運(yùn)行“小網(wǎng)絡(luò)”,同時(shí)分析哪些網(wǎng)絡(luò)的區(qū)域較為敏感,然后只對(duì)敏感區(qū)域在“大網(wǎng)絡(luò)”中運(yùn)行計(jì)算。
達(dá)摩院的科學(xué)家從理論上證明了雙模推理的可行性,且在CPU上實(shí)現(xiàn)了該方法。實(shí)際效果顯示,該方法能在保證模型精度的基礎(chǔ)上,在語(yǔ)言模型上減小40%的訪存,達(dá)到1.54倍-1.75倍的性能提升,同時(shí)可以在僅損耗0.5%精度基礎(chǔ)上,提升3倍的推理速度。
近年來(lái),阿里在AI領(lǐng)域迎來(lái)了基礎(chǔ)研究與產(chǎn)業(yè)應(yīng)用成果雙爆發(fā)的階段。三年前,阿里巴巴成立了內(nèi)部研究機(jī)構(gòu)達(dá)摩院,深入AI研究前沿。據(jù)了解,阿里AI已在國(guó)際頂級(jí)技術(shù)賽事上獲得了近60項(xiàng)世界第一,500多篇論文入選國(guó)際頂會(huì)。同時(shí),阿里AI落地了多項(xiàng)重大研究成果,全面賦能各行各業(yè)。達(dá)摩院醫(yī)療AI團(tuán)隊(duì)疫情期間研發(fā)的AI診斷技術(shù),已在全球近600家醫(yī)院落地,完成50余萬(wàn)例臨床診斷。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車(chē)電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車(chē)】汽車(chē)E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
-
10 月之暗面,絕地反擊
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?