為企業(yè)賦能,降低AI門(mén)檻
“今年是亞馬遜云科技成立的15周年,也是云計(jì)算行業(yè)誕生的15周年。從云計(jì)算誕生到現(xiàn)在,亞馬遜云科技創(chuàng)新的步伐從來(lái)沒(méi)有停止!眮嗰R遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理顧凡在2021 re:Invent大會(huì)上,重點(diǎn)談到亞馬遜云科技在云計(jì)算領(lǐng)域的探索和創(chuàng)新。
亞馬遜云科技公布五大風(fēng)向標(biāo)
作為云計(jì)算領(lǐng)域的領(lǐng)導(dǎo)者,亞馬遜云科技的關(guān)注點(diǎn)極具參考意義,此次re:Invent也為大家總結(jié)了五個(gè)風(fēng)向標(biāo)。一定要重點(diǎn)關(guān)注喲!
第一個(gè)點(diǎn)是,重構(gòu)云計(jì)算底座,自研芯片再升級(jí)。今年亞馬遜云科技推出自研芯片Amazon Graviton3,并同時(shí)推出基于這一款新芯片的第一個(gè)實(shí)列Amazon EC2 C7g,與Amazon Graviton2處理器支持的當(dāng)前一代C6g實(shí)例相比,計(jì)算密集型工作負(fù)載性能提高多達(dá)25%,同性能下能源消耗降低60%。
第二點(diǎn)被亞馬遜云科技稱(chēng)為:大云無(wú)疆,無(wú)限拓展。重點(diǎn)講的是萬(wàn)物云化,云計(jì)算正在逐步拓展到各個(gè)邊界,包括數(shù)據(jù)中心、邊緣計(jì)算、5G、IoT等等,未來(lái)還將拓展到太空。
第三點(diǎn)是,代碼即云,萬(wàn)物皆API。云計(jì)算深刻改變了一個(gè)事實(shí),就是應(yīng)用的開(kāi)發(fā)者如何去看待底層的基礎(chǔ)設(shè)施和各種平臺(tái)資源,今天在應(yīng)用開(kāi)發(fā)者的眼里,一切云計(jì)算的資源都是可以代碼化的,都可以被編程。
第四點(diǎn)是:降低門(mén)檻,把云計(jì)算交到更多人手里。在這方面,相信很多中小企業(yè)都深有體會(huì),能夠讓業(yè)務(wù)人員更加輕松,無(wú)需專(zhuān)業(yè)技術(shù)就可以自己做數(shù)據(jù)分析,甚至做機(jī)器學(xué)習(xí)。
第五點(diǎn)是:可持續(xù)發(fā)展。從可持續(xù)發(fā)展的責(zé)任共擔(dān)模型,到亞馬遜云科技發(fā)布的碳排放的跟蹤工具,以及若干個(gè)新的可再生能源的項(xiàng)目,這一系列的舉措都是為了可持續(xù)發(fā)展。
從這五大風(fēng)向標(biāo)可以看出云計(jì)算發(fā)展的趨勢(shì),萬(wàn)物上云、云端開(kāi)發(fā)、低門(mén)檻應(yīng)用AI與數(shù)據(jù)分析,讓云計(jì)算真正成為了企業(yè)IT的支柱,并在激烈的市場(chǎng)競(jìng)爭(zhēng)中推波助瀾。
自研芯片,性能再刷紀(jì)錄
“很多客戶(hù)只用一兩天時(shí)間就可以完成從x86到ARM的轉(zhuǎn)移,極大的幫助客戶(hù)縮短了利用ARM的整個(gè)技術(shù)、利用Graviton的技術(shù),去獲得超過(guò)40%的性?xún)r(jià)比提升的能力。”談到Graviton系列處理器,亞馬遜云科技大中華區(qū)產(chǎn)品部計(jì)算與存儲(chǔ)總監(jiān)周舸這樣介紹道。
此次re:Invent,亞馬遜云科技還發(fā)布了四個(gè)新的基于Graviton2的實(shí)例,其中包括一個(gè)TB內(nèi)存的X2gd,還有Graviton加上英偉達(dá)的GPU,提供了G5g的新的實(shí)例,也幫助了安卓的游戲、流媒體的應(yīng)用,發(fā)揮了它更高的性?xún)r(jià)比。
剛剛發(fā)布的Amazon Graviton3處理器,則將計(jì)算密集型工作負(fù)載性能提高多達(dá)25%。Amazon Graviton3處理器與Graviton2相比,為科學(xué)計(jì)算、機(jī)器學(xué)習(xí)和媒體編碼工作負(fù)載提供高達(dá)2倍的浮點(diǎn)運(yùn)算性能,為加密工作負(fù)載速度提升高達(dá)2倍,為機(jī)器學(xué)習(xí)工作負(fù)載提供高達(dá)3倍的性能。
Amazon Graviton3擁有500億個(gè)晶體管,比上代產(chǎn)品多出200億個(gè),在設(shè)計(jì)方面也是從用戶(hù)實(shí)際應(yīng)用出發(fā),在重點(diǎn)方向增強(qiáng)了性能。
通過(guò)使用指令并行的方式,讓處理器內(nèi)核在同一個(gè)時(shí)鐘周期里能夠執(zhí)行更多的指令和任務(wù)。例如從一個(gè)時(shí)鐘周期執(zhí)行5個(gè)指令提升到執(zhí)行8個(gè)指令,這樣就可以在不必大幅度提升頻率的同時(shí),增加計(jì)算能力。
在Nginx和Groovy應(yīng)用方面,Graviton3可以提升60%性能,Redshift也可以達(dá)到超過(guò)25%的提升。此外,像x264、265的解碼也有50%左右的性能提升,而在加解密中AES-256則提升了61%。這就是指令并行所帶來(lái)的直接效果。
亞馬遜云科技研究了大量Graviton2上的應(yīng)用負(fù)載,發(fā)現(xiàn)其中有大量的大數(shù)據(jù)、微服務(wù)架構(gòu)及HPC相關(guān)服務(wù),這些服務(wù)對(duì)于內(nèi)存的帶寬和延時(shí)的敏感度要求都非常高,因此這方面也成為了新的研發(fā)方向。
Amazon Graviton3推出以后,相比Intel平臺(tái)內(nèi)存帶寬提升了50%。Twitter表示性能提升20%到80%,甚至在尾延遲方面可以降低至少35%。F1在做流體的仿真的時(shí)候,使用Graviton2本身就已經(jīng)比x86快很多了,這次升級(jí)至基于Graviton3的C7g,再次提升40%。
在機(jī)器學(xué)習(xí)方面,因?yàn)镃7g可以支持BFloat16,因此在推理方面比Graviton2提升了近4倍。
為企業(yè)賦能,降低AI門(mén)檻
曾經(jīng)有專(zhuān)家談到過(guò):如果你想更好地利用AI,那么就需要將AI和IT兩方面的專(zhuān)家相結(jié)合,才能真正實(shí)現(xiàn)靈活應(yīng)用。
這一點(diǎn)對(duì)于很多技術(shù)能力有限的企業(yè)而言,簡(jiǎn)直太難了。不過(guò)現(xiàn)在有了云計(jì)算,讓這一切變得更加簡(jiǎn)單。
在降低機(jī)器學(xué)習(xí)門(mén)檻方面,亞馬遜云科技在多個(gè)方面為企業(yè)提供賦能。
在基礎(chǔ)層,亞馬遜云科技為機(jī)器學(xué)習(xí)專(zhuān)家提供了豐富的算力和經(jīng)過(guò)優(yōu)化的深度學(xué)習(xí)框架。并進(jìn)一步優(yōu)化了主流的機(jī)器學(xué)習(xí)框架,例如Tensorflow、MXNet,方便用戶(hù)可以快速的構(gòu)建環(huán)境,避免搭建環(huán)境的時(shí)候框架兼容性和依賴(lài)性的兼容性的問(wèn)題,提升了訓(xùn)練的速度,降低了推理的延遲。
中間層亞馬遜云科技提供了Amazon SageMaker端到端的機(jī)器學(xué)習(xí)平臺(tái),跨越整個(gè)機(jī)器學(xué)習(xí)全流程,用戶(hù)可以方便的在Amazon SageMaker環(huán)境中處理數(shù)據(jù)標(biāo)記、數(shù)據(jù)處理、特征存儲(chǔ)、算法探索、模型推理到上線再到邊緣端設(shè)備管理的整個(gè)過(guò)程,在Amazon SageMaker平臺(tái)中全部都可以做管理。
諸多工具助企業(yè)降低機(jī)器學(xué)習(xí)成本
隨著機(jī)器學(xué)習(xí)的研發(fā)水平的提高,模型也變得越來(lái)越大,隨之訓(xùn)練時(shí)間也越來(lái)越長(zhǎng),帶來(lái)的成本也越來(lái)越高,部署的難度也越來(lái)越大。由此,亞馬遜云科技在產(chǎn)品設(shè)計(jì)上也不斷創(chuàng)新,努力實(shí)現(xiàn)最佳性能和最佳性?xún)r(jià)比。
面對(duì)高額的訓(xùn)練成本,亞馬遜云科技推出了Amazon SageMaker Training Compiler,通過(guò)內(nèi)核層面進(jìn)行優(yōu)化,使Training可以更好的利用CPU的資源,實(shí)現(xiàn)最高50%的提速。Training Compiler默認(rèn)跟Tensorflow和PyTorch集成。數(shù)據(jù)科學(xué)家只要做非常少的更改,就可以把它使用起來(lái)。
此外,還有強(qiáng)大的部署調(diào)優(yōu)工具Amazon SageMaker Inference Recommender,能夠自動(dòng)化地幫助用戶(hù)搞定測(cè)試調(diào)優(yōu)。
Amazon Serverless Inference可以按照用戶(hù)實(shí)際用量來(lái)計(jì)費(fèi),保證根據(jù)自動(dòng)生產(chǎn)過(guò)來(lái)的流量不斷進(jìn)行收縮,自動(dòng)配置、擴(kuò)展,并且在沒(méi)有需要的時(shí)間釋放相應(yīng)的計(jì)算資源,這些Amazon SageMaker的新功能大大減少了企業(yè)擴(kuò)展機(jī)器學(xué)習(xí)規(guī)模的難度,同時(shí)降低了機(jī)器學(xué)習(xí)的成本。
同時(shí),在降低機(jī)器學(xué)習(xí)門(mén)檻之外,亞馬遜云科技也在逐步消除運(yùn)維人員的繁瑣工作。通過(guò)Amazon DevOps Guru for RDS,它使用了亞馬遜云科技多年來(lái)的運(yùn)營(yíng)機(jī)器學(xué)習(xí)模型,可自動(dòng)識(shí)別和分析各種潛在的性能問(wèn)題,比如資源耗盡等,并在分析之后自動(dòng)修復(fù)相應(yīng)故障,讓企業(yè)運(yùn)維更省力、省心、省錢(qián)。
另外,還有兩個(gè)很具實(shí)用價(jià)值的工具,分別是Amazon SageMaker Canvas和Amazon QuickSight。
Amazon SageMaker Canvas能夠幫助用戶(hù)或數(shù)據(jù)分析師無(wú)需任何機(jī)器學(xué)習(xí)經(jīng)驗(yàn)或者任何代碼,使用拖拉拽的功能,就能簡(jiǎn)單生成一個(gè)機(jī)器學(xué)習(xí)的分析,并且和數(shù)據(jù)科學(xué)家進(jìn)行協(xié)同。
QuickSight則是亞馬遜云科技開(kāi)發(fā)出來(lái)的BI工具,能夠幫助業(yè)務(wù)人員自助化開(kāi)展BI分析。QuickSight剛剛升級(jí)的新功能是Amazon QuickSight Q,能讓終端用戶(hù)通過(guò)簡(jiǎn)單語(yǔ)言針對(duì)數(shù)據(jù)提出問(wèn)題,輸出可視化結(jié)果及業(yè)務(wù)報(bào)表。用無(wú)代碼的方式對(duì)業(yè)務(wù)數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí)的分析和預(yù)測(cè),為各個(gè)行業(yè)的用戶(hù)也降低了云的使用門(mén)檻。
將節(jié)能進(jìn)行到底
“亞馬遜云科技始終專(zhuān)注在基礎(chǔ)設(shè)施的各方面的效率的提升,無(wú)論是數(shù)據(jù)中心、硬件的設(shè)計(jì)、自研芯片,到數(shù)據(jù)中心的建模、跟蹤、運(yùn)營(yíng)的績(jī)效,所有這些東西都是在不斷提升我們自己運(yùn)營(yíng)的基礎(chǔ)設(shè)施效率。”談到碳排放,顧凡這樣認(rèn)為。
舉例而言,Graviton是非常節(jié)能的一款處理器,其每瓦性能比其他的Amazon EC2的處理器要強(qiáng)很多。Amazon Inferentia是亞馬遜云科技最節(jié)能的機(jī)器學(xué)習(xí)推理處理器,Inf1比基于GPU的實(shí)例的推理的能效提升高達(dá)80%。
隨著越來(lái)越多的企業(yè)把機(jī)器學(xué)習(xí)當(dāng)作必備技能,機(jī)器學(xué)習(xí)的工作負(fù)載在數(shù)據(jù)中心里占據(jù)非常大的比重,能耗也隨著迅速增長(zhǎng)。更高的性能、效率意味著可以更快完成任務(wù),也就更加節(jié)能,所以無(wú)論是Inf1還是Trn1都將扮演一個(gè)更加重要的角色。
在2020年的時(shí)候,亞馬遜云科技已經(jīng)成為全球最大的可再生能源采購(gòu)企業(yè)。在本屆re:Invent上,亞馬遜云科技再次宣布另外18個(gè)新的可再生能源項(xiàng)目落地。到今天為止,亞馬遜云科技已經(jīng)啟用了超過(guò)12000兆瓦的可再生能源的容量。
當(dāng)所有這些可再生能源項(xiàng)目投入運(yùn)營(yíng)以后,預(yù)計(jì)每年會(huì)減少1370萬(wàn)噸的碳排放。這相當(dāng)于300萬(wàn)輛汽車(chē)一年的碳排放量。
從云計(jì)算風(fēng)向標(biāo)到行業(yè)探路者,亞馬遜云科技正在通過(guò)不斷地創(chuàng)新幫助合作伙伴快速前行,打造出一個(gè)個(gè)更具實(shí)戰(zhàn)經(jīng)驗(yàn)的探路者們,協(xié)助它們?cè)诟髯灶I(lǐng)域里不斷開(kāi)拓向前。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車(chē)電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車(chē)】汽車(chē)E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專(zhuān)題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類(lèi)新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?