隨著神舟十二號(hào)發(fā)射成功,HPDA開始走入大眾視野
北京時(shí)間6月17日9時(shí)22分,神舟十二號(hào)載人飛船發(fā)射成功!這是時(shí)隔5年之后,中國(guó)再一次把航天員送入太空。這一次的與眾不同之處還在于,三名航天員將成為中國(guó)空間站天和核心艙的首批入駐人員,在軌駐留3個(gè)月。
從“天問(wèn)一號(hào)”首次進(jìn)行火星探測(cè),到此次航天員首次駐留空間站,我國(guó)在宇宙探測(cè)方面不斷實(shí)現(xiàn)驚人的突破。而在這背后,從宇宙探索到深空探秘,意味著海量數(shù)據(jù)的產(chǎn)生、存儲(chǔ)和分析,高性能計(jì)算(HPC)與存儲(chǔ)就成了不可或缺的工具。
HPC與數(shù)據(jù)分析的深度結(jié)合,推動(dòng)了HPDA(High Performance Data Analytics,高性能數(shù)據(jù)分析)的興起和快速發(fā)展。作為HPC領(lǐng)域最具潛力的一個(gè)分支,HPDA正在航天遙感、天氣與氣候建模、個(gè)性化醫(yī)療、金融欺詐檢測(cè)、電子商務(wù)等多個(gè)領(lǐng)域得到越來(lái)越廣泛且深入的應(yīng)用。
HPDA熱起來(lái)
HPDA其實(shí)并不是一個(gè)新概念。早在2014年,市場(chǎng)研究機(jī)構(gòu)IDC就已經(jīng)指出,各大行業(yè)頭部企業(yè)正在積極利用HPC技術(shù)向大數(shù)據(jù)分析類工作負(fù)載發(fā)起挑戰(zhàn),而HPDA存儲(chǔ)作為高端存儲(chǔ)市場(chǎng)的一股清流,將迎來(lái)迅速發(fā)展的機(jī)遇期。最新的市場(chǎng)調(diào)研發(fā)現(xiàn),67%的HPC用戶都在使用HPDA,而非傳統(tǒng)的HPC。HPDA快速增長(zhǎng)的最主要?jiǎng)恿褪荋PC最擅長(zhǎng)的數(shù)據(jù)密集型應(yīng)用。
在人工智能、大數(shù)據(jù)時(shí)代,企業(yè)對(duì)于數(shù)據(jù)有了更深刻的認(rèn)知——數(shù)據(jù)已成為企業(yè)的戰(zhàn)略資產(chǎn)。全球知名市場(chǎng)研究機(jī)構(gòu)ESG的調(diào)查數(shù)據(jù)顯示,23%的企業(yè)認(rèn)為,數(shù)據(jù)就是他們的業(yè)務(wù),另有26%的企業(yè)認(rèn)為,數(shù)據(jù)既是其業(yè)務(wù),也用于支持其業(yè)務(wù)。數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)不再是一句空話,而數(shù)據(jù)以及數(shù)據(jù)存儲(chǔ)對(duì)于推動(dòng)企業(yè)業(yè)務(wù)的創(chuàng)新與發(fā)展至關(guān)重要。
若想充分挖掘數(shù)據(jù)的潛能和價(jià)值,首先要有海量的數(shù)據(jù),其次還要有強(qiáng)大的算力和AI能力,支撐對(duì)于數(shù)據(jù)的分析。一句話,讓數(shù)據(jù)轉(zhuǎn)變成具有意義的洞察,就需要借助HPC這樣的技術(shù)進(jìn)行實(shí)時(shí)的分析、預(yù)測(cè)。從以計(jì)算為中心到以數(shù)據(jù)中心心,HPC正在發(fā)生具有轉(zhuǎn)折性意義的演進(jìn),這是數(shù)據(jù)密集型應(yīng)用需求的驅(qū)動(dòng),也是大數(shù)據(jù)、AI等技術(shù)發(fā)展使然。
ESG的調(diào)查數(shù)據(jù)顯示,63%的受訪者表示,2021年在人工智能和機(jī)器學(xué)習(xí)方面的支出比上一年有所增加,這將導(dǎo)致數(shù)據(jù)量的進(jìn)一步增長(zhǎng)。你可能想象不到,L4自動(dòng)駕駛數(shù)據(jù)集已經(jīng)增長(zhǎng)到EB級(jí),單個(gè)現(xiàn)代基因組測(cè)序儀每天能夠生成6TB的數(shù)據(jù)……海量數(shù)據(jù)的處理為HPDA創(chuàng)造了巨大的商機(jī),商業(yè)智能、數(shù)據(jù)發(fā)現(xiàn)與挖掘、搜索分析、行為分析、交互式查詢等都成了最好的用武之地。
真金不怕火煉
但是任何事物的發(fā)展都具有兩面性,數(shù)據(jù)密集型業(yè)務(wù)的快速發(fā)展,讓存儲(chǔ)系統(tǒng)的壓力與日俱增。隨著數(shù)據(jù)量激增,尤其是非結(jié)構(gòu)化數(shù)據(jù)的爆炸性增長(zhǎng),數(shù)據(jù)分析效率、數(shù)據(jù)管理、安全存儲(chǔ)等成為亟待突破的瓶頸。
誰(shuí)能化解數(shù)據(jù)密集型HPC帶來(lái)的存儲(chǔ)挑戰(zhàn)?HPDA存儲(chǔ)唯有“輕裝上陣”——更經(jīng)濟(jì)、更可靠,同時(shí)還能有效處理各種負(fù)載,即使面對(duì)HPC業(yè)務(wù)流程細(xì)分和多種應(yīng)用場(chǎng)景集成產(chǎn)生的復(fù)雜混合負(fù)載,也能游刃有余,既能從容應(yīng)對(duì)大文件、高帶寬的需求,也能在小文件、高IOPS的環(huán)境中大顯身手。
那么,在一眾HPDA存儲(chǔ)中,誰(shuí)又能堪當(dāng)大任呢?只用實(shí)際測(cè)試和驗(yàn)證效果說(shuō)話的ESG給出了它的解析。
在存儲(chǔ)領(lǐng)域有很多調(diào)研和評(píng)測(cè)機(jī)構(gòu),它們會(huì)從不同的維度對(duì)存儲(chǔ)系統(tǒng)給出評(píng)價(jià),有的以IOPS性能測(cè)試見(jiàn)長(zhǎng),有的以用戶的實(shí)際評(píng)價(jià)作為評(píng)判標(biāo)準(zhǔn),ESG則獨(dú)樹一幟,通常會(huì)搭建嚴(yán)格的接近于真實(shí)的應(yīng)用環(huán)境,對(duì)產(chǎn)品進(jìn)行全面測(cè)試后才會(huì)得出最終結(jié)論。經(jīng)過(guò)這樣一番洗禮,這回華為OceanStor Pacific下一代HPDA存儲(chǔ)真的要“出圈”了。
ESG從性能、可靠性、數(shù)據(jù)管理以及整體擁有成本(TCO)等多個(gè)維度對(duì)華為 OceanStor Pacific進(jìn)行了一次全面“體檢”,還專門測(cè)試了OceanStor Pacific為數(shù)據(jù)密集型應(yīng)用提供不同協(xié)議訪問(wèn)的性能,并對(duì)五年TCO進(jìn)行了深入分析。
ESG測(cè)試環(huán)境
真金不怕火煉,OceanStor Pacific經(jīng)受住了考驗(yàn)。在不影響存儲(chǔ)性能的情況下,OceanStor Pacific可以有效滿足用戶對(duì)于海量非結(jié)構(gòu)化數(shù)據(jù)在數(shù)據(jù)保護(hù)、數(shù)據(jù)遷移、硬件成本和快速增長(zhǎng)等方面的核心需求。在模擬真實(shí)應(yīng)用環(huán)境的測(cè)試中,單套OceanStor Pacific存儲(chǔ)系統(tǒng)能夠?yàn)槎喾N業(yè)務(wù)提供高性能、低時(shí)延,并在多協(xié)議間提供一致的語(yǔ)義。ESG對(duì)于OceanStor Pacific在面對(duì)多種文件/對(duì)象協(xié)議時(shí)均能提供一致的性能,且所有協(xié)議都幾乎性能無(wú)損這一點(diǎn)印象十分深刻。
以前,企業(yè)用戶在處理海量非結(jié)構(gòu)化數(shù)據(jù)時(shí),都習(xí)慣采用橫向擴(kuò)展NAS系統(tǒng)。但是隨著工作負(fù)載越來(lái)越復(fù)雜,數(shù)據(jù)量持續(xù)增加,用戶對(duì)于存儲(chǔ)性能的一致性、靈活擴(kuò)展能力、成本效益以及可用性等提出了更高的要求。
比如在汽車、飛機(jī)的設(shè)計(jì)和制造方面,越來(lái)越多的企業(yè)希望用HPC技術(shù)支撐復(fù)雜的設(shè)計(jì)、分析,進(jìn)一步提高產(chǎn)品的設(shè)計(jì)質(zhì)量;在商業(yè)領(lǐng)域,企業(yè)傾向于借助大數(shù)據(jù)、深度學(xué)習(xí)等技術(shù),對(duì)客戶行為進(jìn)行畫像,或者進(jìn)行更加細(xì)粒度和精確的搜索等。這些都是最典型的HPDA存儲(chǔ)的應(yīng)用場(chǎng)景。ESG建議用戶,采用專為HPDA設(shè)計(jì)的下一代存儲(chǔ)系統(tǒng),在提升可用性的同時(shí)可以減少工作量,提高容量和性能的同時(shí)還能有效降低存儲(chǔ)TCO。而華為OceanStor Pacific正是HPDA業(yè)務(wù)的理想之選。
魚與熊掌可兼得
俗話說(shuō),光說(shuō)不練假把式。華為OceanStor Pacific在ESG的測(cè)試中到底表現(xiàn)如何?
OceanStor Pacific存儲(chǔ)系統(tǒng)的獨(dú)特之處在于,能夠提供各種數(shù)據(jù)密集型場(chǎng)景所需的高性能和靈活訪問(wèn)能力,包括HPC、AI/ML、大數(shù)據(jù)分析、大規(guī)模虛擬化、內(nèi)容存儲(chǔ)、地震分析、生命科學(xué)、金融,以及任何需要存儲(chǔ)海量數(shù)據(jù)并提供高性能、多協(xié)議訪問(wèn)的應(yīng)用。特別需要指出的是,OceanStor Pacific的企業(yè)級(jí)可用性功能在軟件中實(shí)施,從而提供一個(gè)平臺(tái)以極低的延遲對(duì)業(yè)務(wù)關(guān)鍵型及任務(wù)關(guān)鍵型負(fù)載與海量數(shù)據(jù)集進(jìn)行整合。
ESG的實(shí)際測(cè)試有力地驗(yàn)證了上述OceanStor Pacific的定位和特色,OceanStor Pacific確實(shí)可以為超大數(shù)據(jù)集提供持續(xù)的高性能,并充分支持以數(shù)據(jù)為中心的實(shí)際應(yīng)用。
先看對(duì)多協(xié)議的支持。在自動(dòng)駕駛、精密醫(yī)療、智能制造等典型的企業(yè)HPDA應(yīng)用場(chǎng)景中,數(shù)據(jù)流程的不同階段通常會(huì)使用到文件、對(duì)象和大數(shù)據(jù)(HDFS)等服務(wù)。
像OceanStor Pacific這樣具有多協(xié)議互通能力的存儲(chǔ)系統(tǒng),能夠無(wú)縫支持NFS、CIFS、HDFS和S3等協(xié)議,并允許應(yīng)用通過(guò)多個(gè)協(xié)議共享一份數(shù)據(jù),從而達(dá)到提高分析效率的目的,在無(wú)數(shù)據(jù)遷移的情況下,可以通過(guò)多個(gè)協(xié)議進(jìn)行讀取,同時(shí)保證語(yǔ)義無(wú)損和高穩(wěn)定的性能。ESG的測(cè)試表明,OceanStor Pacific在單個(gè)高性能高可用平臺(tái)上具有整合異構(gòu)數(shù)據(jù)密集型負(fù)載的超強(qiáng)能力,能夠同時(shí)處理多種負(fù)載,并且保證使用多種協(xié)議訪問(wèn)的穩(wěn)定的數(shù)據(jù)性能。
再看對(duì)混合負(fù)載的支持。通常情況下,HPC負(fù)載具有多樣性的特點(diǎn),比如地震數(shù)據(jù)處理需要高帶寬,而對(duì)已處理數(shù)據(jù)的解釋則需要高IOPS。帶寬瓶頸可能是由網(wǎng)絡(luò)、磁盤或內(nèi)存不足造成的,而IOPS瓶頸則可能是因CPU算力不足或調(diào)用堆棧深度等軟件問(wèn)題引起的。解決不同的性能瓶頸,這對(duì)華為OceanStor Pacific來(lái)說(shuō)并不是一件難事。ESG的測(cè)試顯示,OceanStor Pacific文件系統(tǒng)采用元數(shù)據(jù)分布、大小I/O分流、磁盤索引等技術(shù),可以同時(shí)滿足高帶寬和高IOPS的需求,可謂魚與熊掌兼得。
最后驗(yàn)證高密度設(shè)計(jì)和TCO。為了有效應(yīng)對(duì)海量數(shù)據(jù)的增長(zhǎng),存儲(chǔ)的高密度設(shè)計(jì)幾乎成了標(biāo)配。華為OceanStor Pacific采用了下一代高密度硬件架構(gòu):華為自研的half-palm NVMe盤,將橫截面減少65%;領(lǐng)先的散熱材料、創(chuàng)新的風(fēng)扇布局和全新的結(jié)構(gòu)設(shè)計(jì),可以將整個(gè)存儲(chǔ)系統(tǒng)的冷卻效率提高30%;采用EC和端到端數(shù)據(jù)完整性字段(DIF),將磁盤利用率提升至91.6%……
根據(jù)不同的業(yè)務(wù)場(chǎng)景,OceanStor Pacific提供兩種高密度硬件架構(gòu)配置:一個(gè)是高密性能型的OceanStor Pacific 9950,每機(jī)箱可提供高達(dá)160GB/s帶寬和200萬(wàn)IOPS的極速數(shù)據(jù)訪問(wèn);另一個(gè)是高密容量型的OceanStor Pacific 9550,在5U空間內(nèi)可提供超過(guò)1.6PB的裸容量。
在實(shí)際測(cè)試中,ESG將華為OceanStor Pacific 9550的預(yù)估存儲(chǔ)成本與傳統(tǒng)的橫向擴(kuò)展NAS系統(tǒng)進(jìn)行了建模和比較。模型只考慮五年內(nèi)會(huì)發(fā)生的成本,而容量/性能增長(zhǎng)需求以及IT運(yùn)營(yíng)成本則不在考慮之列。結(jié)果顯示,華為OceanStor Pacific的五年TCO比橫向擴(kuò)展NAS系統(tǒng)低61%,其中最大的節(jié)省來(lái)自托管成本(64%),其他如資本支出(CapEx)節(jié)省62%,供電和冷卻節(jié)省32%。
“存力”也要強(qiáng)大
IDC的統(tǒng)計(jì)數(shù)據(jù)顯示,30%的HPC是用于數(shù)據(jù)分析,傳統(tǒng)HPC走向HPDA已是大勢(shì)所趨。大數(shù)據(jù)、人工智能、深度學(xué)習(xí)等的興起,加速了這一演進(jìn)的速度。從金融、電子商務(wù)到科學(xué)計(jì)算、衛(wèi)星遙感,各類數(shù)據(jù)密集型HPC應(yīng)用對(duì)存儲(chǔ)提出了新的挑戰(zhàn)。僅有超強(qiáng)的HPC算力還不夠,必須要有同樣強(qiáng)大的“存力”與之相匹配。穩(wěn)定的高性能、多協(xié)議融合訪問(wèn)、支持混合負(fù)載訪問(wèn)、靈活的可擴(kuò)展性,以及更低的TCO等,這正是HPDA存儲(chǔ)所擅長(zhǎng)的,也是華為OceanStor Pacific脫穎而出的關(guān)鍵所在。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
限時(shí)免費(fèi)下載立即下載 >>> 2024“機(jī)器人+”行業(yè)應(yīng)用創(chuàng)新發(fā)展藍(lán)皮書
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選