侵權(quán)投訴
訂閱
糾錯(cuò)
加入自媒體

隱私計(jì)算軟硬件結(jié)合起跑

創(chuàng)業(yè)公司入局

除了螞蟻集團(tuán)之外,還有更多的創(chuàng)業(yè)公司正陸續(xù)出現(xiàn)在隱私計(jì)算軟硬件結(jié)合的賽道上,在解決隱私計(jì)算的安全性和性能的問題上尋求單點(diǎn)突破。星云Clustar和融數(shù)聯(lián)智是其中最早的兩家。

星云Clustar的專長(zhǎng)在算力提升方面,并且正在這一領(lǐng)域做得更為精深。

該公司由香港科技大學(xué)智能網(wǎng)絡(luò)與系統(tǒng)實(shí)驗(yàn)室主任、高性能網(wǎng)絡(luò)領(lǐng)軍科學(xué)家陳凱創(chuàng)立于2018年,定位于以算力為核心的隱私計(jì)算技術(shù)商。成立之后的第二年,星云Clustar幫助微眾銀行解決了目前應(yīng)用最廣的聯(lián)邦學(xué)習(xí)開源平臺(tái) FATE的算力問題,使FATE的性能實(shí)現(xiàn)1到2個(gè)數(shù)量級(jí)的提升(因測(cè)試平臺(tái)不同,性能提升效果略有差異),成為FATE的算力提供商。

與FATE合作之后,面向隱私計(jì)算市場(chǎng),星云Clustar推出了隱私計(jì)算加速卡和隱私計(jì)算軟硬件一體機(jī)等軟硬件結(jié)合的產(chǎn)品。

在算力提升方面,計(jì)算機(jī)單機(jī)算力提升,主要是要“算得快”;計(jì)算機(jī)集群內(nèi)部和集群之間算力的提升,是要在“算得快”的基礎(chǔ)上還要“傳得快”。在“算得快”和“傳得快”方面,星云Clustar都有所改進(jìn)。

在“算得快”方面,星云Clustar自研了隱私計(jì)算加速卡,它可以解決聯(lián)邦學(xué)習(xí)因使用同態(tài)加密而產(chǎn)生的計(jì)算壓力與延時(shí)問題。根據(jù)星云Clustar提供的數(shù)據(jù),相對(duì)于傳統(tǒng)服務(wù)器,星云Clustar在聯(lián)邦學(xué)習(xí)復(fù)雜的同態(tài)加密和解密計(jì)算實(shí)現(xiàn)1-2個(gè)數(shù)量的性能提升;密態(tài)乘法和加法效率提升2-3個(gè)數(shù)量級(jí)。

在“傳得快”方面,星云Clustar有自研的高效網(wǎng)絡(luò)技術(shù)GDR (GPU Direct RDMA) 。GDR技術(shù)主要是可以消除數(shù)據(jù)在單機(jī)之間的傳輸過程中不必要的數(shù)據(jù)拷貝,從而大大提升了通信效率,可使數(shù)據(jù)在單機(jī)間的傳輸時(shí)延降低75%,性能提升200%,極致性能提升450%。

星云Clustar CTO張駿雪告訴零壹財(cái)經(jīng),未來星云Clustar的技術(shù)和產(chǎn)品主要是沿著三根軸展開:更高性能、更多場(chǎng)景、國(guó)產(chǎn)化。

其中,在更高性能方面,星云Clustar正在努力降低FPGA的成本,使得未來單位價(jià)格購(gòu)買的算力能進(jìn)一步提升,這將使得在需要處理的數(shù)據(jù)量大幅增長(zhǎng)的情況下,隱私計(jì)算的算力成本不至于大幅上升。張駿雪預(yù)計(jì),明年星云Clustar能夠使得單位價(jià)格購(gòu)買的算力提升一倍。未來,還可以通過自研技術(shù)的進(jìn)步、產(chǎn)品的大規(guī)模上量,使得算力的實(shí)際使用成本進(jìn)一步下降。

2021年,星云Clustar的產(chǎn)品在不少大型機(jī)構(gòu)做了POC測(cè)試,也與微眾銀行、招商銀行、建設(shè)銀行等大型金融機(jī)構(gòu)達(dá)成深度合作。張駿雪的切身感受是,從2021年下半年開始,業(yè)內(nèi)對(duì)硬件的關(guān)注和討論就越來越多。市場(chǎng)最開始的關(guān)注點(diǎn)在于有和沒有隱私計(jì)算系統(tǒng)有什么區(qū)別,但當(dāng)不少機(jī)構(gòu)開始嘗試隱私計(jì)算系統(tǒng)之后,越來越多的機(jī)構(gòu)開始比較哪個(gè)系統(tǒng)跑得快。經(jīng)歷了2021年與不少機(jī)構(gòu)的POC測(cè)試之后,星云Clustar整個(gè)團(tuán)隊(duì)對(duì)于其軟硬件結(jié)合的產(chǎn)品在2022年的更大規(guī)模落地充滿了信心。

融數(shù)聯(lián)智則在創(chuàng)立之初就瞄準(zhǔn)了芯片研發(fā),這是算力提升當(dāng)中最艱難的部分。

融數(shù)聯(lián)智創(chuàng)立于2019年8月,兩年后,即2021年,融數(shù)聯(lián)智正式發(fā)布首款隱私保護(hù)芯片(全稱Privacy Preserving Unit,即隱私保護(hù)芯片,簡(jiǎn)稱為PPU)PPU26x,并且官方宣布實(shí)測(cè)密態(tài)數(shù)據(jù)運(yùn)算加速單元百倍的加速比。融數(shù)聯(lián)智創(chuàng)始人兼董事長(zhǎng)袁曄告訴零壹財(cái)經(jīng),PPU26x目前從在真實(shí)場(chǎng)景中的測(cè)試來看,大多數(shù)情況下能夠使密文運(yùn)算加速500—800倍。他預(yù)計(jì),明年融數(shù)聯(lián)智可以推出能夠使密文運(yùn)算加速千倍的產(chǎn)品PPU36x。

星云Clustar和融數(shù)聯(lián)智之外,推出軟硬件結(jié)合產(chǎn)品的隱私計(jì)算創(chuàng)業(yè)公司在不斷增多。

2021年12月,在宣布完成超3億元人民幣Pre-A及A輪融資時(shí),數(shù)牘科技也對(duì)外宣布,在隱私工程落地場(chǎng)景的同時(shí),數(shù)牘前沿研究團(tuán)隊(duì)也實(shí)現(xiàn)了計(jì)算機(jī)體系架構(gòu)層面的硬件突破。

在給零壹財(cái)經(jīng)的回復(fù)中,數(shù)牘科技介紹:

數(shù)牘科技的軟硬協(xié)同的隱私計(jì)算方案,圍繞全國(guó)產(chǎn)化進(jìn)行生產(chǎn)打造,不僅是上層的隱私計(jì)算平臺(tái),從底層芯片選擇、硬件電路的設(shè)計(jì),到國(guó)產(chǎn)密碼算法研發(fā),都是完全的國(guó)產(chǎn)自主可控,不斷鞏固自身產(chǎn)品體系的安全性和可靠性。

具體來講,數(shù)牘隱私計(jì)算硬件可單獨(dú)完成數(shù)據(jù)的“算、存、傳”,將現(xiàn)有的隱私計(jì)算平臺(tái)中涉及的算法、算子等核心運(yùn)算進(jìn)行能力下沉,使其部分托管至硬件環(huán)境中,并通過調(diào)用硬件的加速能力提升現(xiàn)有計(jì)算平臺(tái)的整體性能。

經(jīng)過結(jié)合硬件的可插拔的特性,能夠非常靈活的對(duì)一臺(tái)通用的服務(wù)器進(jìn)行能力改造,將之變?yōu)殡[私計(jì)算專用服務(wù)器,從而也提高了服務(wù)器資源和算力的利用效率,進(jìn)一步降低計(jì)算資源開銷。

就在剛剛過去的2月,隱私保護(hù)計(jì)算技術(shù)提供商锘崴科技宣布,與螞蟻集團(tuán)聯(lián)合打造的锘崴信一體機(jī)正式發(fā)布。

據(jù)零壹財(cái)經(jīng)了解,還有更多的廠商正在進(jìn)入這個(gè)賽道,相關(guān)的產(chǎn)品正在研發(fā)、籌備當(dāng)中。

與市場(chǎng)共舞

創(chuàng)業(yè)公司的入局,讓螞蟻的身影在隱私計(jì)算軟硬件結(jié)合方面顯得并不那么孤單。換個(gè)角度來看,這也是市場(chǎng)需求日漸清晰的信號(hào)。

數(shù)字經(jīng)濟(jì)發(fā)展和隱私保護(hù)的雙重需要,正使得數(shù)據(jù)密態(tài)時(shí)代的到來成為大勢(shì)所趨。螞蟻集團(tuán)副總裁、安全隱私技術(shù)委員會(huì)主席韋韜預(yù)測(cè):“目前,密態(tài)數(shù)據(jù)處理的規(guī)模,就和數(shù)據(jù)挖掘最初的時(shí)候差不多,只在少量、簡(jiǎn)單的場(chǎng)景有所應(yīng)用。未來,密態(tài)數(shù)據(jù)處理的規(guī)模,也會(huì)像當(dāng)年數(shù)據(jù)挖掘一樣,迎來爆發(fā)性發(fā)展! 

挑戰(zhàn)隨之而來。在隱私計(jì)算的軟硬件結(jié)合方面,創(chuàng)新者們一方面需要小心翼翼地平衡巨大的研發(fā)投入與商業(yè)回報(bào),一方面不可避免地正在迎來國(guó)際競(jìng)爭(zhēng)。

事實(shí)上,星云Clustar的工作已經(jīng)深入到芯片層面,但是要推出產(chǎn)品還需等待時(shí)機(jī)。

張駿雪向零壹財(cái)經(jīng)透露,星云Clustar已經(jīng)做完了隱私計(jì)算加速芯片的設(shè)計(jì),甚至已經(jīng)與芯片生產(chǎn)企業(yè)進(jìn)行過對(duì)接。

在張駿雪看來,隨著隱私計(jì)算技術(shù)發(fā)展與產(chǎn)業(yè)鏈不斷突破,數(shù)據(jù)的運(yùn)算方式、環(huán)境將愈發(fā)復(fù)雜,CPU、GPU等現(xiàn)有芯片將逐漸無法覆蓋大規(guī)模密態(tài)復(fù)雜運(yùn)算的需求,而利用FPGA等可定制算力硬件,推進(jìn)密態(tài)數(shù)據(jù)專用AISC芯片和算力平臺(tái)的研發(fā)與創(chuàng)新,將會(huì)是提升隱私計(jì)算在實(shí)際生產(chǎn)系統(tǒng)的效率的重要途徑。但星云Clustar作為一家創(chuàng)業(yè)公司,必須權(quán)衡研發(fā)投入與市場(chǎng)回報(bào)。隱私計(jì)算作為非常新興的行業(yè),在商業(yè)化模式方面充滿了“戰(zhàn)爭(zhēng)迷霧”,找準(zhǔn)企業(yè)定位,明晰發(fā)展方向,與客戶、產(chǎn)業(yè)鏈的互相配合,在“迷霧”中找到企業(yè)發(fā)展的生態(tài)位尤為重要。

聚集了大量芯片研發(fā)人才的融數(shù)聯(lián)智卻已經(jīng)出發(fā)。

融數(shù)聯(lián)智推出專用隱私保護(hù)芯片,在外界看來,這其中風(fēng)險(xiǎn)極大——芯片是一個(gè)技術(shù)和資本密集型產(chǎn)業(yè),如果推出的芯片遲遲無法獲得市場(chǎng)回報(bào),這有可能使一家創(chuàng)業(yè)公司面臨極大的挑戰(zhàn)。

但對(duì)融數(shù)聯(lián)智來說,這是深思熟慮的行動(dòng)。袁曄告訴零壹財(cái)經(jīng),2020年融數(shù)聯(lián)智的客戶當(dāng)中已經(jīng)出現(xiàn)了對(duì)芯片的需求,客戶需要處理大量高并發(fā)的數(shù)據(jù)。面對(duì)這個(gè)需求,雖然可以通過軟件方案不斷去優(yōu)化算法模型以及密態(tài)運(yùn)算的過程,但軟件的所有指令都是提交給 CPU 做運(yùn)算,部分提交給 GPU 做加速,不管 CPU 還是 GPU,對(duì)于整個(gè)性能的提升都是有瓶頸的。即使使用FPGA,仍然有瓶頸,F(xiàn)PGA對(duì)性能優(yōu)化的上限是百倍!皬目吹叫枨,到生產(chǎn)出較為成熟的芯片產(chǎn)品,估計(jì)需要3-5年。如果現(xiàn)在不做,到看到大量需求的時(shí)候再做,就有可能來不及了!彼f道。

現(xiàn)在,讓袁曄感到稍有些欣慰的是,融數(shù)聯(lián)智的芯片研發(fā)從全球來看處在前列,并沒有晚,與Intel的進(jìn)度幾乎同步!拔覀兾ㄒ粨(dān)心的就是,會(huì)不會(huì)有些早了。因?yàn)殡[私計(jì)算的發(fā)展仍然處于初期。但確定的是,我們的錢不會(huì)白投,路不會(huì)白走!痹瑫舷蛄阋钾(cái)經(jīng)表示。

就在本文調(diào)研過程中,融數(shù)聯(lián)智完成了新一輪融資。2022年2月28日,北京融數(shù)聯(lián)智科技有限公司發(fā)生工商變更,新增股東為螞蟻集團(tuán)關(guān)聯(lián)公司上海云鉅創(chuàng)業(yè)投資有限公司。

從全球來看,隱私計(jì)算的軟硬件結(jié)合,正在變成一個(gè)廣受關(guān)注的領(lǐng)域,國(guó)際競(jìng)爭(zhēng)在逐漸升溫。

秦承剛最早看到一篇和密態(tài)運(yùn)算加速相關(guān)的論文是2012年美國(guó)一所高校的博士生做的。從2015年開始,這個(gè)領(lǐng)域在學(xué)術(shù)界變得越來越熱,越來越繁榮。MIT、微軟、Intel都有相關(guān)的論文和工作成果發(fā)表。從2021年開始,更多業(yè)界的公司、甚至領(lǐng)頭羊公司都開始關(guān)注這個(gè)領(lǐng)域。

2021年3月,美國(guó)國(guó)防高級(jí)研究計(jì)劃局(Defense Advanced Research Projects Agency,簡(jiǎn)稱DARPA)發(fā)布全同態(tài)硬件加速計(jì)劃DPRIVE(Data Protection in Virtual Environments,虛擬環(huán)境中的數(shù)據(jù)保護(hù)項(xiàng)目)。DPRIVE尋求開發(fā)用于全同態(tài)計(jì)算的硬件加速器,與基于軟件的全同態(tài)方法相比,它將大大減少計(jì)算運(yùn)行時(shí)的開銷、大大加快全同態(tài)計(jì)算的速度,從而使該技術(shù)更易于用于敏感的國(guó)防應(yīng)用以及商業(yè)用途。該計(jì)劃,有包括Intel在內(nèi)的四個(gè)團(tuán)隊(duì)入選。

DARPA是美國(guó)國(guó)防部屬下的一個(gè)行政機(jī)構(gòu),負(fù)責(zé)研發(fā)用于軍事用途的高新科技。有文章這樣評(píng)價(jià)它的作用:“DARPA通過孵化突破性技術(shù)以持續(xù)推動(dòng)經(jīng)濟(jì)的發(fā)展,是美國(guó)生產(chǎn)率增長(zhǎng)的核心引擎”。遠(yuǎn)的有GPS和互聯(lián)網(wǎng)的原型ARPANET,近的有精確制導(dǎo)武器、隱形技術(shù)、無人機(jī)和腦機(jī)接口等,都是其推動(dòng)發(fā)展的。

而在業(yè)界,2021年末,Intel開源了一個(gè)用FPGA加速全同態(tài)算法庫的項(xiàng)目。歐洲也出現(xiàn)一家名為ZAMA的公司,開始做硬件加速方面的工作。

秦承剛判斷:“如果真能做到全同態(tài)運(yùn)算的速度幾乎跟明文運(yùn)算一樣快。當(dāng)這個(gè)芯片成為現(xiàn)實(shí),隱私計(jì)算甚至云計(jì)算的技術(shù)體系肯定會(huì)發(fā)生演進(jìn)!

作為中國(guó)金融支付場(chǎng)景里科技領(lǐng)頭羊公司,螞蟻集團(tuán)有更多的能力進(jìn)行前瞻性的戰(zhàn)略儲(chǔ)備。一方面希望多年來的技術(shù)積累在解決市場(chǎng)面臨的真實(shí)問題中有所作為,并且與市場(chǎng)協(xié)同進(jìn)化,另一方面也希望在數(shù)據(jù)安全如此關(guān)鍵的領(lǐng)域,自身在相關(guān)技術(shù)的發(fā)展方面不要落后于國(guó)際同行。

從科技創(chuàng)新來看,秦承剛認(rèn)為,隱私計(jì)算的軟硬件結(jié)合正在開啟一場(chǎng)長(zhǎng)跑,其成果在未來數(shù)年中才能逐漸顯現(xiàn)。他告訴零壹財(cái)經(jīng),現(xiàn)在在硬件的創(chuàng)新方面正處于體系結(jié)構(gòu)的黃金時(shí)代。這是因?yàn),移?dòng)互聯(lián)網(wǎng)的飛速發(fā)展使得應(yīng)用場(chǎng)景發(fā)展很快,上層的軟件也發(fā)展很快,這使得在計(jì)算機(jī)底層進(jìn)行支持的硬件甚至芯片都需要隨之進(jìn)行改變,進(jìn)入了新一輪的創(chuàng)新周期。而從隱私計(jì)算的長(zhǎng)遠(yuǎn)發(fā)展來看,硬件的演進(jìn)是加速,算法的演進(jìn)是變革,未來軟件和硬件的創(chuàng)新會(huì)相互促進(jìn)和推動(dòng)。

從外部環(huán)境來看,在密態(tài)數(shù)據(jù)的處理方面,中國(guó)已經(jīng)走到了世界的最前沿。由于監(jiān)管環(huán)境的不同,許多國(guó)家仍處于數(shù)據(jù)收集階段,而中國(guó)已進(jìn)入數(shù)據(jù)融合發(fā)展階段。在這一方面,中國(guó)擁有先發(fā)優(yōu)勢(shì)。

韋韜記得,三年前微軟、IBM、英特爾的隱私技術(shù)專利水平是業(yè)界追趕的目標(biāo)。但是在過去兩年多時(shí)間里,這個(gè)差距正在被大幅縮小。

根據(jù)第三方機(jī)構(gòu)IPRdaily與incoPat創(chuàng)新指數(shù)研究中心聯(lián)合發(fā)布的《2020年全球新興隱私技術(shù)發(fā)明專利排行榜》,截至2021年3月19日,中國(guó)有7家公司沖進(jìn)前十,螞蟻更是以740件的專利申請(qǐng)數(shù)量遙遙領(lǐng)先,微軟居第二, IBM及英特爾,分別位列第五名及第六名。

圖 2020年全球新興隱私技術(shù)發(fā)明專利排行榜前十(截至2021年3月19日)

來源 :IPRdaily、incoPat

“中國(guó)在這方面將引領(lǐng)發(fā)展,數(shù)據(jù)行業(yè)有這樣的機(jī)會(huì)!表f韜最后表示。

End.

       原文標(biāo)題 : 隱私計(jì)算軟硬件結(jié)合起跑

<上一頁  1  2  
聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)