機(jī)器人能否“說人話”?
利用英特爾AVX-512技術(shù)和bfloat16指令,騰訊的科學(xué)家們確保了GRU模塊和Dense運(yùn)算符中粗略部分/精細(xì)部分的所有SGEMV計(jì)算都使用512位矢量進(jìn)行矢量化,并采用bfloat16點(diǎn)積指令;對(duì)于按元素逐個(gè)加/乘等運(yùn)算以及其他非線性激活,都使用最新的英特爾AVX-512 指令運(yùn)行。
在最終都性能測(cè)試中,通過優(yōu)化,相同質(zhì)量水平(MOS4.5)的文本轉(zhuǎn)語音速度比FP32提升了高達(dá)1.54倍。
此外,騰訊還以 GAN 和 Parallel WaveNet (PWaveNet)為基礎(chǔ),推出了一種改進(jìn)后的模型,并基于第三代英特爾至強(qiáng)可擴(kuò)展處理器對(duì)模型性能進(jìn)行了優(yōu)化,最終使性能與采用FP32相比提升了高達(dá)1.89倍,同時(shí)質(zhì)量水平仍保持不變 (MOS4.4)。
騰訊在TTS領(lǐng)域的進(jìn)展顯示出了人工智能領(lǐng)域的一個(gè)趨勢(shì),那就是科學(xué)家們?cè)絹碓蕉嚅_始利用英特爾深度學(xué)習(xí)加速技術(shù)在CPU平臺(tái)上開展工作。
就像騰訊在針對(duì)TTS的探索中獲得了性能提升那樣,第二代和第三代英特爾至強(qiáng)可擴(kuò)展處理器在集成了加速技術(shù)后,已經(jīng)顯著提升了人工智能工作負(fù)載的性能。
在更廣泛的領(lǐng)域內(nèi),我們已經(jīng)能夠清楚地看到這種變化——在效率表現(xiàn)上,由于針對(duì)常見人工智能軟件框架,如TensorFlow和PyTorch、庫和工具所做的優(yōu)化,CPU平臺(tái)可以幫助保持較高的性能功耗比和性價(jià)比。
尤其是擴(kuò)展性上,用戶在設(shè)計(jì)系統(tǒng)時(shí)可以利用如英特爾以太網(wǎng)700系列,和英特爾傲騰內(nèi)存存儲(chǔ)技術(shù),來優(yōu)化網(wǎng)絡(luò)和內(nèi)存配置。這樣一來,他們就可以在充分利用現(xiàn)有硬件投資的情況下,輕松擴(kuò)展人工智能訓(xùn)練的工作負(fù)載,獲得更高的吞吐量,甚至處理巨大的數(shù)據(jù)集。
不止于處理器平臺(tái)本身,英特爾目前在面向人工智能優(yōu)化的軟件,以及市場(chǎng)就緒型人工智能解決方案兩個(gè)維度,都建立起了差異化的市場(chǎng)優(yōu)勢(shì)。
例如在軟件方面,英特爾2019年2月進(jìn)行的 OpenVINO/ResNet50 INT8 性能測(cè)試顯示,使用 OpenVINO或TensorFlow和英特爾深度學(xué)習(xí)加速技術(shù)時(shí),人工智能推理性能可提高多達(dá) 3.75 倍。
今天,英特爾已經(jīng)攜手解決方案提供商,構(gòu)建了一系列的精選解決方案。這些方案預(yù)先進(jìn)行了配置,并對(duì)工作負(fù)載進(jìn)行了優(yōu)化。這就包括了如基于人工智能推理的英特爾精選解決方案,以及面向在面向在Apache Spark上運(yùn)行的BigDL的英特爾精選解決方案等。
這些變化和方案的出現(xiàn)對(duì)于那些希望能從整體業(yè)務(wù)視角,去觀察人工智能進(jìn)展的機(jī)構(gòu)或企業(yè)的管理層顯然也很有意義——如果只通過優(yōu)化,就能在一個(gè)通用平臺(tái)上完成所有人工智能的探索和落地,那么投資的價(jià)值就能夠?qū)崿F(xiàn)最大化。
許多企業(yè)做出了這樣的選擇,GE醫(yī)療就是其中一家。作為GE集團(tuán)旗下的醫(yī)療健康業(yè)務(wù)部門,它構(gòu)建了一個(gè)人工智能醫(yī)學(xué)影像部署架構(gòu)。
通過采用英特爾至強(qiáng)可擴(kuò)展處理器,和英特爾固態(tài)盤,以及多項(xiàng)英特爾關(guān)鍵技術(shù)——例如英特爾深度學(xué)習(xí)開發(fā)工具包,和面向深度神經(jīng)網(wǎng)絡(luò)的英特爾數(shù)學(xué)核心函數(shù)庫等;GE醫(yī)療收獲了未曾預(yù)料到的成果:
這一解決方案最終比基礎(chǔ)解決方案的推理速度提升了多達(dá)14倍,且超過了GE原定推理目標(biāo)5.9倍。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?