訂閱
糾錯
加入自媒體

大模型為什么要強調(diào)全棧自研?

文:詩與星空

ID:SingingUnderStars           

DeepSeek發(fā)布以來,各大廠商紛紛官宣接入DeepSeek。但是,不同的廠商,說法不同,這里面的學(xué)問很大。           

一是接入。           

只說接入的,大概率是API接入。這個很簡單,星空君第一時間就接入了,DeepSeek和硅基流動的API非常便宜,每天高強度使用(一個周超過80次),10塊錢怎么都用不完。企業(yè)級應(yīng)用,每天上萬次甚至幾十萬次調(diào)用,也不算貴。          

 

          

 

二是私有化部署。              

 

其實私有化部署的門檻非常高,但很多量化版本并不是真正的DeepSeek,這些量化模型打著DeepSeek的幌子進入政企高校。最低幾萬塊的消費級配置就可以滿足。而真正的DeepSeek需要差不多150萬+的服務(wù)器才能部署,通常叫“滿血版”。只要不是“滿血版”的,都是這種量化版,大模型的能力比真正的DeepSeek差著很遠。

           

三是全棧自研。

           

星空君注意到中國石油和中國移動合作的官宣里提到了這個說法。          

 

什么是“全棧自研”?          

 

眾所周知,DeepSeek是在英偉達的顯卡上訓(xùn)練出來的,大部分企業(yè)即便是私有化部署,也是部署在英偉達的顯卡上,而英偉達的顯卡不能算作自研。          

 

經(jīng)過適配后的DeepSeek可以部署在華為昇騰算力卡上,這就實現(xiàn)了硬件自研;使用國產(chǎn)的操作系統(tǒng)(如麒麟Linux、華為歐拉等)、國產(chǎn)的開發(fā)工具,就實現(xiàn)了軟件自研。二者合起來,方可成為全棧自研。          

 

即便是在最極端的情況下,全棧自研依然是安全可控的。

           

在A股上市公司中,搞全棧自研的有幾家知名企業(yè)。

           

一是科大訊飛,它主攻方向是軟件自研,硬件依托華為昇騰;          

 

另一個是中科曙光,它主攻方向是硬件自研,以AI服務(wù)器為主。

  

01

中科曙光的2024年年報

                 

 2024年之前,受益于信創(chuàng)的推廣,中科曙光的成長性非常快。到了2024年突然失速,年報顯示,公司的營收出現(xiàn)了下滑,降幅為8.4%。          

 

數(shù)據(jù)來源:iFind

           

結(jié)合公司年報,主要有四個原因:

           

一是全球經(jīng)濟下行壓力增大,地緣政治風(fēng)險加劇,導(dǎo)致市場需求疲軟,項目延期或取消。同時,AI技術(shù)快速發(fā)展,行業(yè)競爭加劇,公司面臨更大的市場壓力。

           

二是客戶對設(shè)備性能和可靠性提出了更高的要求,給公司的產(chǎn)品帶來了壓力。          

 

三是云計算市場競爭激烈,價格戰(zhàn)導(dǎo)致產(chǎn)品收入下降,而固定成本(如研發(fā)、人員)相對穩(wěn)定,影響了整體盈利能力。          

 

四是客戶集中度過高,一旦大客戶訂單減少或延期,將對公司業(yè)績產(chǎn)生較大影響。              

 

其實這里頭最大的原因,是第四個,公司的大客戶出現(xiàn)了訂單減少的情況。

           

2024年度的前五大客戶銷售額為116億元,占年度銷售總額的比例為87.95%。作為對比,上年同期前五大客戶銷售額為122億元。

02

AI領(lǐng)域進展                             

 

作為全棧自研方向的六邊形選手,公司在AI領(lǐng)域分四大部分。          

 

一是AI硬件,也就是AI服務(wù)器。          

 

公司持續(xù)迭代開發(fā)浸沒式液體相變冷卻刀片系統(tǒng)、人工智能工作站等高端計算機產(chǎn)品,并加快國產(chǎn)核心零部件導(dǎo)入,形成全國產(chǎn)整機解決方案。

           

發(fā)布全棧自研的集中式存儲系統(tǒng)FlashNexus,達到億級IOPS,最大支持256個控制器拓展。

面向AI應(yīng)用需求,ParaStor分布式全閃存儲全面升級,將分布式存儲系統(tǒng)的帶寬單位從GB級帶到TB級時代。

           

推出業(yè)界首款液冷存儲產(chǎn)品,存儲系統(tǒng)PUE值降至1.2以下。          

 

二是軟件,主要是管理軟件。          

 

迭代研發(fā)AI技術(shù)軟件棧DAS平臺,提升AI全棧優(yōu)化能力,平臺提供從基礎(chǔ)算子、框架工具到擴展組件的多層次計算服務(wù),助力AI應(yīng)用的遷移、開發(fā)及迭代;同時,基于國產(chǎn)算力平臺上線AI模型倉庫,支持百余精調(diào)模型下載即用。             

 

DeepAI深算智能引擎, 通過打造端到端全棧AI加速套件,助力各行各業(yè)AI應(yīng)用開發(fā)與落地。

           

三是賣完整解決方案:一體機。          

 

曙光云發(fā)布了全國產(chǎn)DeepSeek大模型超融合一體機,采用國產(chǎn)X86 CPU和國產(chǎn)GPGPU加速卡,支持全精度、半精度混合訓(xùn)練與推理,契合信創(chuàng)要求。          

 

政府機關(guān)、央企國企、高校等客戶群體,都有信創(chuàng)的要求,所以唯一選擇就是國產(chǎn)算力,而曙光在這方面屬于頭部供應(yīng)商。          

 

四是行業(yè)應(yīng)用          

 

政務(wù)領(lǐng)域,通過曙光人工智能基礎(chǔ)軟件系統(tǒng)DAS,實現(xiàn)自動化監(jiān)控與數(shù)據(jù)采集、實時數(shù)據(jù)處理和智能檢測預(yù)警,從而加強數(shù)據(jù)保護,簡化服務(wù)流程,并提高政府服務(wù)質(zhì)量和響應(yīng)速度。

           

礦山開采領(lǐng)域,DAS應(yīng)用于巖石檢測,涉及圖像識別、模式分析和數(shù)據(jù)預(yù)測,全流程賦能巖石檢測,優(yōu)化模型,提高數(shù)據(jù)處理效率和檢測準確性。

03

前景

                  

對于服務(wù)器廠商來說,AI服務(wù)器即將(已經(jīng))迎來爆發(fā)式需求。          

 

星空君很喜歡陸奇在2017年提出的那句“All in AI”,對于曙光來說,x86躺著數(shù)錢太舒服了,公司應(yīng)該向AI服務(wù)器戰(zhàn)略轉(zhuǎn)移。

          

隨著政企客戶AI轉(zhuǎn)型需求增加,“東數(shù)西算”工程深入推進,公司有望在智能算力基礎(chǔ)設(shè)施建設(shè)與服務(wù)領(lǐng)域獲得更多訂單。              

 

2025年信創(chuàng)DeepSeek大模型超融合一體機會迎來一波爆發(fā),有望在政府、金融等關(guān)鍵行業(yè)實現(xiàn)快速推廣。          

 

隨著數(shù)據(jù)中心PUE值要求日益嚴格,公司的液冷技術(shù)與綠色算力解決方案將具有更強的市場競爭力。針對AI大模型訓(xùn)練與推理的需求,公司有望在存儲系統(tǒng)與數(shù)據(jù)解決方案領(lǐng)域?qū)崿F(xiàn)突破。通過曙光云擴大政企私有云市場份額。       

   

 

-END-免責(zé)聲明:本文章是基于上市公司的公眾公司屬性、以上市公司根據(jù)其法定義務(wù)公開披露的信息(包括但不限于臨時公告、定期報告和官方互動平臺等)為核心依據(jù)的分析研究;詩與星空力求文章所載內(nèi)容及觀點公正,但不保證其準確性、完整性、及時性等;本文中的信息或所表述的意見不構(gòu)成任何投資建議,詩與星空不對因使用本文章所采取的任何行為承擔(dān)任何責(zé)任。

版權(quán)聲明:本文章內(nèi)容為詩與星空原創(chuàng),未經(jīng)授權(quán)不得轉(zhuǎn)載。

       原文標題 : 大模型為什么要強調(diào)全棧自研?

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

    掃碼關(guān)注公眾號
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯
    x
    *文字標題:
    *糾錯內(nèi)容:
    聯(lián)系郵箱:
    *驗 證 碼:

    粵公網(wǎng)安備 44030502002758號