訂閱
糾錯(cuò)
加入自媒體

為企業(yè)賦能,降低AI門(mén)檻

“今年是亞馬遜云科技成立的15周年,也是云計(jì)算行業(yè)誕生的15周年。從云計(jì)算誕生到現(xiàn)在,亞馬遜云科技創(chuàng)新的步伐從來(lái)沒(méi)有停止!眮嗰R遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理顧凡在2021 re:Invent大會(huì)上,重點(diǎn)談到亞馬遜云科技在云計(jì)算領(lǐng)域的探索和創(chuàng)新。

亞馬遜云科技公布五大風(fēng)向標(biāo)

作為云計(jì)算領(lǐng)域的領(lǐng)導(dǎo)者,亞馬遜云科技的關(guān)注點(diǎn)極具參考意義,此次re:Invent也為大家總結(jié)了五個(gè)風(fēng)向標(biāo)。一定要重點(diǎn)關(guān)注喲!

第一個(gè)點(diǎn)是,重構(gòu)云計(jì)算底座,自研芯片再升級(jí)。今年亞馬遜云科技推出自研芯片Amazon Graviton3,并同時(shí)推出基于這一款新芯片的第一個(gè)實(shí)列Amazon EC2 C7g,與Amazon Graviton2處理器支持的當(dāng)前一代C6g實(shí)例相比,計(jì)算密集型工作負(fù)載性能提高多達(dá)25%,同性能下能源消耗降低60%。

低門(mén)檻玩轉(zhuǎn)AI,亞馬遜云科技公布5大風(fēng)向標(biāo)

第二點(diǎn)被亞馬遜云科技稱(chēng)為:大云無(wú)疆,無(wú)限拓展。重點(diǎn)講的是萬(wàn)物云化,云計(jì)算正在逐步拓展到各個(gè)邊界,包括數(shù)據(jù)中心、邊緣計(jì)算、5G、IoT等等,未來(lái)還將拓展到太空。

第三點(diǎn)是,代碼即云,萬(wàn)物皆API。云計(jì)算深刻改變了一個(gè)事實(shí),就是應(yīng)用的開(kāi)發(fā)者如何去看待底層的基礎(chǔ)設(shè)施和各種平臺(tái)資源,今天在應(yīng)用開(kāi)發(fā)者的眼里,一切云計(jì)算的資源都是可以代碼化的,都可以被編程。

第四點(diǎn)是:降低門(mén)檻,把云計(jì)算交到更多人手里。在這方面,相信很多中小企業(yè)都深有體會(huì),能夠讓業(yè)務(wù)人員更加輕松,無(wú)需專(zhuān)業(yè)技術(shù)就可以自己做數(shù)據(jù)分析,甚至做機(jī)器學(xué)習(xí)。

第五點(diǎn)是:可持續(xù)發(fā)展。從可持續(xù)發(fā)展的責(zé)任共擔(dān)模型,到亞馬遜云科技發(fā)布的碳排放的跟蹤工具,以及若干個(gè)新的可再生能源的項(xiàng)目,這一系列的舉措都是為了可持續(xù)發(fā)展。

從這五大風(fēng)向標(biāo)可以看出云計(jì)算發(fā)展的趨勢(shì),萬(wàn)物上云、云端開(kāi)發(fā)、低門(mén)檻應(yīng)用AI與數(shù)據(jù)分析,讓云計(jì)算真正成為了企業(yè)IT的支柱,并在激烈的市場(chǎng)競(jìng)爭(zhēng)中推波助瀾。

自研芯片,性能再刷紀(jì)錄

“很多客戶(hù)只用一兩天時(shí)間就可以完成從x86到ARM的轉(zhuǎn)移,極大的幫助客戶(hù)縮短了利用ARM的整個(gè)技術(shù)、利用Graviton的技術(shù),去獲得超過(guò)40%的性?xún)r(jià)比提升的能力。”談到Graviton系列處理器,亞馬遜云科技大中華區(qū)產(chǎn)品部計(jì)算與存儲(chǔ)總監(jiān)周舸這樣介紹道。

此次re:Invent,亞馬遜云科技還發(fā)布了四個(gè)新的基于Graviton2的實(shí)例,其中包括一個(gè)TB內(nèi)存的X2gd,還有Graviton加上英偉達(dá)的GPU,提供了G5g的新的實(shí)例,也幫助了安卓的游戲、流媒體的應(yīng)用,發(fā)揮了它更高的性?xún)r(jià)比。

低門(mén)檻玩轉(zhuǎn)AI,亞馬遜云科技公布5大風(fēng)向標(biāo)

剛剛發(fā)布的Amazon Graviton3處理器,則將計(jì)算密集型工作負(fù)載性能提高多達(dá)25%。Amazon Graviton3處理器與Graviton2相比,為科學(xué)計(jì)算、機(jī)器學(xué)習(xí)和媒體編碼工作負(fù)載提供高達(dá)2倍的浮點(diǎn)運(yùn)算性能,為加密工作負(fù)載速度提升高達(dá)2倍,為機(jī)器學(xué)習(xí)工作負(fù)載提供高達(dá)3倍的性能。

Amazon Graviton3擁有500億個(gè)晶體管,比上代產(chǎn)品多出200億個(gè),在設(shè)計(jì)方面也是從用戶(hù)實(shí)際應(yīng)用出發(fā),在重點(diǎn)方向增強(qiáng)了性能。

通過(guò)使用指令并行的方式,讓處理器內(nèi)核在同一個(gè)時(shí)鐘周期里能夠執(zhí)行更多的指令和任務(wù)。例如從一個(gè)時(shí)鐘周期執(zhí)行5個(gè)指令提升到執(zhí)行8個(gè)指令,這樣就可以在不必大幅度提升頻率的同時(shí),增加計(jì)算能力。

低門(mén)檻玩轉(zhuǎn)AI,亞馬遜云科技公布5大風(fēng)向標(biāo)

在Nginx和Groovy應(yīng)用方面,Graviton3可以提升60%性能,Redshift也可以達(dá)到超過(guò)25%的提升。此外,像x264、265的解碼也有50%左右的性能提升,而在加解密中AES-256則提升了61%。這就是指令并行所帶來(lái)的直接效果。

亞馬遜云科技研究了大量Graviton2上的應(yīng)用負(fù)載,發(fā)現(xiàn)其中有大量的大數(shù)據(jù)、微服務(wù)架構(gòu)及HPC相關(guān)服務(wù),這些服務(wù)對(duì)于內(nèi)存的帶寬和延時(shí)的敏感度要求都非常高,因此這方面也成為了新的研發(fā)方向。

Amazon Graviton3推出以后,相比Intel平臺(tái)內(nèi)存帶寬提升了50%。Twitter表示性能提升20%到80%,甚至在尾延遲方面可以降低至少35%。F1在做流體的仿真的時(shí)候,使用Graviton2本身就已經(jīng)比x86快很多了,這次升級(jí)至基于Graviton3的C7g,再次提升40%。

在機(jī)器學(xué)習(xí)方面,因?yàn)镃7g可以支持BFloat16,因此在推理方面比Graviton2提升了近4倍。

為企業(yè)賦能,降低AI門(mén)檻

曾經(jīng)有專(zhuān)家談到過(guò):如果你想更好地利用AI,那么就需要將AI和IT兩方面的專(zhuān)家相結(jié)合,才能真正實(shí)現(xiàn)靈活應(yīng)用。

這一點(diǎn)對(duì)于很多技術(shù)能力有限的企業(yè)而言,簡(jiǎn)直太難了。不過(guò)現(xiàn)在有了云計(jì)算,讓這一切變得更加簡(jiǎn)單。

在降低機(jī)器學(xué)習(xí)門(mén)檻方面,亞馬遜云科技在多個(gè)方面為企業(yè)提供賦能。

在基礎(chǔ)層,亞馬遜云科技為機(jī)器學(xué)習(xí)專(zhuān)家提供了豐富的算力和經(jīng)過(guò)優(yōu)化的深度學(xué)習(xí)框架。并進(jìn)一步優(yōu)化了主流的機(jī)器學(xué)習(xí)框架,例如Tensorflow、MXNet,方便用戶(hù)可以快速的構(gòu)建環(huán)境,避免搭建環(huán)境的時(shí)候框架兼容性和依賴(lài)性的兼容性的問(wèn)題,提升了訓(xùn)練的速度,降低了推理的延遲。

中間層亞馬遜云科技提供了Amazon SageMaker端到端的機(jī)器學(xué)習(xí)平臺(tái),跨越整個(gè)機(jī)器學(xué)習(xí)全流程,用戶(hù)可以方便的在Amazon SageMaker環(huán)境中處理數(shù)據(jù)標(biāo)記、數(shù)據(jù)處理、特征存儲(chǔ)、算法探索、模型推理到上線再到邊緣端設(shè)備管理的整個(gè)過(guò)程,在Amazon SageMaker平臺(tái)中全部都可以做管理。

諸多工具助企業(yè)降低機(jī)器學(xué)習(xí)成本

隨著機(jī)器學(xué)習(xí)的研發(fā)水平的提高,模型也變得越來(lái)越大,隨之訓(xùn)練時(shí)間也越來(lái)越長(zhǎng),帶來(lái)的成本也越來(lái)越高,部署的難度也越來(lái)越大。由此,亞馬遜云科技在產(chǎn)品設(shè)計(jì)上也不斷創(chuàng)新,努力實(shí)現(xiàn)最佳性能和最佳性?xún)r(jià)比。

低門(mén)檻玩轉(zhuǎn)AI,亞馬遜云科技公布5大風(fēng)向標(biāo)

面對(duì)高額的訓(xùn)練成本,亞馬遜云科技推出了Amazon SageMaker Training Compiler,通過(guò)內(nèi)核層面進(jìn)行優(yōu)化,使Training可以更好的利用CPU的資源,實(shí)現(xiàn)最高50%的提速。Training Compiler默認(rèn)跟Tensorflow和PyTorch集成。數(shù)據(jù)科學(xué)家只要做非常少的更改,就可以把它使用起來(lái)。

此外,還有強(qiáng)大的部署調(diào)優(yōu)工具Amazon SageMaker Inference Recommender,能夠自動(dòng)化地幫助用戶(hù)搞定測(cè)試調(diào)優(yōu)。

Amazon Serverless Inference可以按照用戶(hù)實(shí)際用量來(lái)計(jì)費(fèi),保證根據(jù)自動(dòng)生產(chǎn)過(guò)來(lái)的流量不斷進(jìn)行收縮,自動(dòng)配置、擴(kuò)展,并且在沒(méi)有需要的時(shí)間釋放相應(yīng)的計(jì)算資源,這些Amazon SageMaker的新功能大大減少了企業(yè)擴(kuò)展機(jī)器學(xué)習(xí)規(guī)模的難度,同時(shí)降低了機(jī)器學(xué)習(xí)的成本。

同時(shí),在降低機(jī)器學(xué)習(xí)門(mén)檻之外,亞馬遜云科技也在逐步消除運(yùn)維人員的繁瑣工作。通過(guò)Amazon DevOps Guru for RDS,它使用了亞馬遜云科技多年來(lái)的運(yùn)營(yíng)機(jī)器學(xué)習(xí)模型,可自動(dòng)識(shí)別和分析各種潛在的性能問(wèn)題,比如資源耗盡等,并在分析之后自動(dòng)修復(fù)相應(yīng)故障,讓企業(yè)運(yùn)維更省力、省心、省錢(qián)。

另外,還有兩個(gè)很具實(shí)用價(jià)值的工具,分別是Amazon SageMaker Canvas和Amazon QuickSight。

Amazon SageMaker Canvas能夠幫助用戶(hù)或數(shù)據(jù)分析師無(wú)需任何機(jī)器學(xué)習(xí)經(jīng)驗(yàn)或者任何代碼,使用拖拉拽的功能,就能簡(jiǎn)單生成一個(gè)機(jī)器學(xué)習(xí)的分析,并且和數(shù)據(jù)科學(xué)家進(jìn)行協(xié)同。

QuickSight則是亞馬遜云科技開(kāi)發(fā)出來(lái)的BI工具,能夠幫助業(yè)務(wù)人員自助化開(kāi)展BI分析。QuickSight剛剛升級(jí)的新功能是Amazon QuickSight Q,能讓終端用戶(hù)通過(guò)簡(jiǎn)單語(yǔ)言針對(duì)數(shù)據(jù)提出問(wèn)題,輸出可視化結(jié)果及業(yè)務(wù)報(bào)表。用無(wú)代碼的方式對(duì)業(yè)務(wù)數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí)的分析和預(yù)測(cè),為各個(gè)行業(yè)的用戶(hù)也降低了云的使用門(mén)檻。

將節(jié)能進(jìn)行到底

“亞馬遜云科技始終專(zhuān)注在基礎(chǔ)設(shè)施的各方面的效率的提升,無(wú)論是數(shù)據(jù)中心、硬件的設(shè)計(jì)、自研芯片,到數(shù)據(jù)中心的建模、跟蹤、運(yùn)營(yíng)的績(jī)效,所有這些東西都是在不斷提升我們自己運(yùn)營(yíng)的基礎(chǔ)設(shè)施效率。”談到碳排放,顧凡這樣認(rèn)為。

舉例而言,Graviton是非常節(jié)能的一款處理器,其每瓦性能比其他的Amazon EC2的處理器要強(qiáng)很多。Amazon Inferentia是亞馬遜云科技最節(jié)能的機(jī)器學(xué)習(xí)推理處理器,Inf1比基于GPU的實(shí)例的推理的能效提升高達(dá)80%。

隨著越來(lái)越多的企業(yè)把機(jī)器學(xué)習(xí)當(dāng)作必備技能,機(jī)器學(xué)習(xí)的工作負(fù)載在數(shù)據(jù)中心里占據(jù)非常大的比重,能耗也隨著迅速增長(zhǎng)。更高的性能、效率意味著可以更快完成任務(wù),也就更加節(jié)能,所以無(wú)論是Inf1還是Trn1都將扮演一個(gè)更加重要的角色。

在2020年的時(shí)候,亞馬遜云科技已經(jīng)成為全球最大的可再生能源采購(gòu)企業(yè)。在本屆re:Invent上,亞馬遜云科技再次宣布另外18個(gè)新的可再生能源項(xiàng)目落地。到今天為止,亞馬遜云科技已經(jīng)啟用了超過(guò)12000兆瓦的可再生能源的容量。

當(dāng)所有這些可再生能源項(xiàng)目投入運(yùn)營(yíng)以后,預(yù)計(jì)每年會(huì)減少1370萬(wàn)噸的碳排放。這相當(dāng)于300萬(wàn)輛汽車(chē)一年的碳排放量。

從云計(jì)算風(fēng)向標(biāo)到行業(yè)探路者,亞馬遜云科技正在通過(guò)不斷地創(chuàng)新幫助合作伙伴快速前行,打造出一個(gè)個(gè)更具實(shí)戰(zhàn)經(jīng)驗(yàn)的探路者們,協(xié)助它們?cè)诟髯灶I(lǐng)域里不斷開(kāi)拓向前。

聲明: 本文由入駐維科號(hào)的作者撰寫(xiě),觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)