如何評(píng)測(cè)一個(gè)大數(shù)據(jù)系統(tǒng)
數(shù)據(jù)的爆炸式增長(zhǎng)掀起了大數(shù)據(jù)的研究熱潮,越來(lái)越多的應(yīng)用領(lǐng)域涉及到大數(shù)據(jù)的處理和存儲(chǔ),其所蘊(yùn)藏的科學(xué)價(jià)值和商業(yè)價(jià)值逐漸體現(xiàn)。為了挖掘大數(shù)據(jù)中隱藏的知識(shí),各種大數(shù)據(jù)系統(tǒng)應(yīng)運(yùn)而生,例如Hadoop、MapReduce、Hive、Spark等。如何客觀地評(píng)價(jià)眾多的大數(shù)據(jù)系統(tǒng)以及從中選擇適合自身需求的系統(tǒng)成為學(xué)術(shù)界和工業(yè)界普遍關(guān)心的問(wèn)題,大數(shù)據(jù)工業(yè)界和研究社區(qū)迫切需要一套公認(rèn)的大數(shù)據(jù)評(píng)測(cè)基準(zhǔn)。
Jim Gray認(rèn)為:特定領(lǐng)域的評(píng)測(cè)基準(zhǔn)應(yīng)選擇典型應(yīng)用,并滿足領(lǐng)域內(nèi)應(yīng)用的多樣性。據(jù)此他進(jìn)一步提出了一套成功的評(píng)測(cè)基準(zhǔn)需要滿足的4個(gè)條件:系統(tǒng)相關(guān)性、可移植性、可擴(kuò)展性和簡(jiǎn)單。其中,系統(tǒng)相關(guān)性是指能夠評(píng)測(cè)領(lǐng)域相關(guān)的系統(tǒng)性能,包括系統(tǒng)的峰值性能,性價(jià)比等;可移植性是指評(píng)測(cè)基準(zhǔn)能夠移植到不同的平臺(tái)上,易于在不同的系統(tǒng)和架構(gòu)上實(shí)現(xiàn);可擴(kuò)展性是指能夠適應(yīng)不同的系統(tǒng)規(guī)模;簡(jiǎn)單是指評(píng)測(cè)基準(zhǔn)易于理解,評(píng)測(cè)結(jié)果具有可靠性。
參考Gray提出的4條標(biāo)準(zhǔn),并結(jié)合大數(shù)據(jù)海量、高速、多樣的特性,我們提出了針對(duì)大數(shù)據(jù)領(lǐng)域的評(píng)測(cè)基準(zhǔn)需要滿足的需求。
可代表性
大數(shù)據(jù)領(lǐng)域具有非常廣的覆蓋范圍,信息時(shí)代的來(lái)臨使得越來(lái)越多的應(yīng)用領(lǐng)域涉及到大數(shù)據(jù)的處理和存儲(chǔ),因此一個(gè)完整而全面的評(píng)測(cè)基準(zhǔn)不可能一蹴而就。如何盡可能提高負(fù)載覆蓋度又不失評(píng)測(cè)的簡(jiǎn)易性是很大的挑戰(zhàn),這也就要求評(píng)測(cè)基準(zhǔn)具有領(lǐng)域代表性。
我們認(rèn)為大數(shù)據(jù)領(lǐng)域的代表性主要體現(xiàn)在3個(gè)方面:
①代表性負(fù)載。
眾所周知,目前應(yīng)用領(lǐng)域極其繁多,領(lǐng)域之間有一定的共有特性,但每個(gè)領(lǐng)域有其獨(dú)特性,因此應(yīng)用領(lǐng)域和負(fù)載的代表性在一定程度上也就決定了評(píng)測(cè)基準(zhǔn)的代表性;
②代表性數(shù)據(jù)。
大數(shù)據(jù)領(lǐng)域與傳統(tǒng)數(shù)據(jù)庫(kù)等領(lǐng)域的一個(gè)顯著區(qū)別即是數(shù)據(jù)類型多元化,傳統(tǒng)的結(jié)構(gòu)化數(shù)據(jù)不再占據(jù)主導(dǎo)地位,半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)爆炸性增長(zhǎng),因此評(píng)測(cè)基準(zhǔn)不能忽略復(fù)雜而多樣的數(shù)據(jù)類型;
③代表性軟件棧。
數(shù)據(jù)迅猛增長(zhǎng)催生了眾多的大數(shù)據(jù)處理和存儲(chǔ)系統(tǒng),然而不同的軟件棧對(duì)大數(shù)據(jù)負(fù)載的行為特征具有很大的影響,因此大數(shù)據(jù)評(píng)測(cè)基準(zhǔn)需要涵蓋代表性軟件棧。
可移植性
大數(shù)據(jù)評(píng)測(cè)基準(zhǔn)不僅需要能夠縱向地評(píng)測(cè)大數(shù)據(jù)系統(tǒng),而且需要能夠?qū)Σ煌南到y(tǒng)進(jìn)行橫向的對(duì)比。這就要求相同的負(fù)載能夠提供不同的實(shí)現(xiàn)方式,評(píng)測(cè)基準(zhǔn)能夠便利地移植到其他平臺(tái)。為了使不同的實(shí)現(xiàn)方式具有公平的可比性,針對(duì)不同平臺(tái)的實(shí)現(xiàn),需要具有相同的輸入和輸出,以及相同的算法處理邏輯。如今,一系列針對(duì)大數(shù)據(jù)處理和存儲(chǔ)的開(kāi)源產(chǎn)品被發(fā)布,例如MapReduce、Spark等,所以在評(píng)測(cè)基準(zhǔn)的實(shí)現(xiàn)過(guò)程中需要考慮基于這些不同的軟件棧的實(shí)現(xiàn)。
可擴(kuò)展性
大數(shù)據(jù)評(píng)測(cè)基準(zhǔn)需要提供可擴(kuò)展的數(shù)據(jù)集和負(fù)載。大數(shù)據(jù)的一個(gè)顯著特征即是數(shù)據(jù)量大,單一節(jié)點(diǎn)的存儲(chǔ)已逐步轉(zhuǎn)變成分布式存儲(chǔ),因此評(píng)測(cè)基準(zhǔn)所提供的數(shù)據(jù)和負(fù)載需要適應(yīng)不同規(guī)模的平臺(tái)。然而如今大多數(shù)的大數(shù)據(jù)持有者視數(shù)據(jù)為重要的商業(yè)機(jī)密,因而能夠提供符合真實(shí)數(shù)據(jù)特性的可擴(kuò)展數(shù)據(jù)集是大數(shù)據(jù)評(píng)測(cè)基準(zhǔn)重要而基本的需求。
可理解性
評(píng)測(cè)基準(zhǔn)需要具有簡(jiǎn)易性,易于理解,并易于部署和評(píng)測(cè),同時(shí)評(píng)測(cè)結(jié)果能夠指導(dǎo)系統(tǒng)的評(píng)價(jià)、改進(jìn)和優(yōu)化。然而,大數(shù)據(jù)系統(tǒng)本身非常復(fù)雜。僅僅從簡(jiǎn)單性的角度來(lái)選擇典型負(fù)載,可能會(huì)使基準(zhǔn)程序喪失代表性。因此,我們用可理解性來(lái)取代原有的簡(jiǎn)單性需要?衫斫庑杂校滁c(diǎn)含義:能從基本操作單元和負(fù)載模式的角度理解典型負(fù)載;評(píng)測(cè)結(jié)果需要簡(jiǎn)單直觀,評(píng)測(cè)人員能夠根據(jù)負(fù)載的特性分析結(jié)果的合理性并判斷系統(tǒng)的瓶頸或者優(yōu)劣;評(píng)測(cè)結(jié)果需要具有穩(wěn)定性,其結(jié)果必須是可靠的并且可重現(xiàn)的。
大數(shù)據(jù)系統(tǒng)的蓬勃發(fā)展催生了大數(shù)據(jù)基準(zhǔn)測(cè)試的研究,如何公正地評(píng)價(jià)不同的大數(shù)據(jù)系統(tǒng)以及怎樣根據(jù)需求選取合適的系統(tǒng)成為了熱點(diǎn)問(wèn)題。大家在使用的過(guò)程中,不妨也動(dòng)腦筋想一想,為什么選擇這些系統(tǒng)?按照評(píng)測(cè)的基準(zhǔn)還有哪些系統(tǒng)也值得了解?這樣你的編程之旅才不容易迷茫。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?