大模型為什么要強調(diào)全棧自研?
文:詩與星空
ID:SingingUnderStars
DeepSeek發(fā)布以來,各大廠商紛紛官宣接入DeepSeek。但是,不同的廠商,說法不同,這里面的學(xué)問很大。
一是接入。
只說接入的,大概率是API接入。這個很簡單,星空君第一時間就接入了,DeepSeek和硅基流動的API非常便宜,每天高強度使用(一個周超過80次),10塊錢怎么都用不完。企業(yè)級應(yīng)用,每天上萬次甚至幾十萬次調(diào)用,也不算貴。
二是私有化部署。
其實私有化部署的門檻非常高,但很多量化版本并不是真正的DeepSeek,這些量化模型打著DeepSeek的幌子進入政企高校。最低幾萬塊的消費級配置就可以滿足。而真正的DeepSeek需要差不多150萬+的服務(wù)器才能部署,通常叫“滿血版”。只要不是“滿血版”的,都是這種量化版,大模型的能力比真正的DeepSeek差著很遠。
三是全棧自研。
星空君注意到中國石油和中國移動合作的官宣里提到了這個說法。
什么是“全棧自研”?
眾所周知,DeepSeek是在英偉達的顯卡上訓(xùn)練出來的,大部分企業(yè)即便是私有化部署,也是部署在英偉達的顯卡上,而英偉達的顯卡不能算作自研。
經(jīng)過適配后的DeepSeek可以部署在華為昇騰算力卡上,這就實現(xiàn)了硬件自研;使用國產(chǎn)的操作系統(tǒng)(如麒麟Linux、華為歐拉等)、國產(chǎn)的開發(fā)工具,就實現(xiàn)了軟件自研。二者合起來,方可成為全棧自研。
即便是在最極端的情況下,全棧自研依然是安全可控的。
在A股上市公司中,搞全棧自研的有幾家知名企業(yè)。
一是科大訊飛,它主攻方向是軟件自研,硬件依托華為昇騰;
另一個是中科曙光,它主攻方向是硬件自研,以AI服務(wù)器為主。
01
中科曙光的2024年年報
2024年之前,受益于信創(chuàng)的推廣,中科曙光的成長性非常快。到了2024年突然失速,年報顯示,公司的營收出現(xiàn)了下滑,降幅為8.4%。
數(shù)據(jù)來源:iFind
結(jié)合公司年報,主要有四個原因:
一是全球經(jīng)濟下行壓力增大,地緣政治風(fēng)險加劇,導(dǎo)致市場需求疲軟,項目延期或取消。同時,AI技術(shù)快速發(fā)展,行業(yè)競爭加劇,公司面臨更大的市場壓力。
二是客戶對設(shè)備性能和可靠性提出了更高的要求,給公司的產(chǎn)品帶來了壓力。
三是云計算市場競爭激烈,價格戰(zhàn)導(dǎo)致產(chǎn)品收入下降,而固定成本(如研發(fā)、人員)相對穩(wěn)定,影響了整體盈利能力。
四是客戶集中度過高,一旦大客戶訂單減少或延期,將對公司業(yè)績產(chǎn)生較大影響。
其實這里頭最大的原因,是第四個,公司的大客戶出現(xiàn)了訂單減少的情況。
2024年度的前五大客戶銷售額為116億元,占年度銷售總額的比例為87.95%。作為對比,上年同期前五大客戶銷售額為122億元。
02
AI領(lǐng)域進展
作為全棧自研方向的六邊形選手,公司在AI領(lǐng)域分四大部分。
一是AI硬件,也就是AI服務(wù)器。
公司持續(xù)迭代開發(fā)浸沒式液體相變冷卻刀片系統(tǒng)、人工智能工作站等高端計算機產(chǎn)品,并加快國產(chǎn)核心零部件導(dǎo)入,形成全國產(chǎn)整機解決方案。
發(fā)布全棧自研的集中式存儲系統(tǒng)FlashNexus,達到億級IOPS,最大支持256個控制器拓展。
面向AI應(yīng)用需求,ParaStor分布式全閃存儲全面升級,將分布式存儲系統(tǒng)的帶寬單位從GB級帶到TB級時代。
推出業(yè)界首款液冷存儲產(chǎn)品,存儲系統(tǒng)PUE值降至1.2以下。
二是軟件,主要是管理軟件。
迭代研發(fā)AI技術(shù)軟件棧DAS平臺,提升AI全棧優(yōu)化能力,平臺提供從基礎(chǔ)算子、框架工具到擴展組件的多層次計算服務(wù),助力AI應(yīng)用的遷移、開發(fā)及迭代;同時,基于國產(chǎn)算力平臺上線AI模型倉庫,支持百余精調(diào)模型下載即用。
DeepAI深算智能引擎, 通過打造端到端全棧AI加速套件,助力各行各業(yè)AI應(yīng)用開發(fā)與落地。
三是賣完整解決方案:一體機。
曙光云發(fā)布了全國產(chǎn)DeepSeek大模型超融合一體機,采用國產(chǎn)X86 CPU和國產(chǎn)GPGPU加速卡,支持全精度、半精度混合訓(xùn)練與推理,契合信創(chuàng)要求。
政府機關(guān)、央企國企、高校等客戶群體,都有信創(chuàng)的要求,所以唯一選擇就是國產(chǎn)算力,而曙光在這方面屬于頭部供應(yīng)商。
四是行業(yè)應(yīng)用
政務(wù)領(lǐng)域,通過曙光人工智能基礎(chǔ)軟件系統(tǒng)DAS,實現(xiàn)自動化監(jiān)控與數(shù)據(jù)采集、實時數(shù)據(jù)處理和智能檢測預(yù)警,從而加強數(shù)據(jù)保護,簡化服務(wù)流程,并提高政府服務(wù)質(zhì)量和響應(yīng)速度。
礦山開采領(lǐng)域,DAS應(yīng)用于巖石檢測,涉及圖像識別、模式分析和數(shù)據(jù)預(yù)測,全流程賦能巖石檢測,優(yōu)化模型,提高數(shù)據(jù)處理效率和檢測準確性。
03
前景
對于服務(wù)器廠商來說,AI服務(wù)器即將(已經(jīng))迎來爆發(fā)式需求。
星空君很喜歡陸奇在2017年提出的那句“All in AI”,對于曙光來說,x86躺著數(shù)錢太舒服了,公司應(yīng)該向AI服務(wù)器戰(zhàn)略轉(zhuǎn)移。
隨著政企客戶AI轉(zhuǎn)型需求增加,“東數(shù)西算”工程深入推進,公司有望在智能算力基礎(chǔ)設(shè)施建設(shè)與服務(wù)領(lǐng)域獲得更多訂單。
2025年信創(chuàng)DeepSeek大模型超融合一體機會迎來一波爆發(fā),有望在政府、金融等關(guān)鍵行業(yè)實現(xiàn)快速推廣。
隨著數(shù)據(jù)中心PUE值要求日益嚴格,公司的液冷技術(shù)與綠色算力解決方案將具有更強的市場競爭力。針對AI大模型訓(xùn)練與推理的需求,公司有望在存儲系統(tǒng)與數(shù)據(jù)解決方案領(lǐng)域?qū)崿F(xiàn)突破。通過曙光云擴大政企私有云市場份額。
-END-免責(zé)聲明:本文章是基于上市公司的公眾公司屬性、以上市公司根據(jù)其法定義務(wù)公開披露的信息(包括但不限于臨時公告、定期報告和官方互動平臺等)為核心依據(jù)的分析研究;詩與星空力求文章所載內(nèi)容及觀點公正,但不保證其準確性、完整性、及時性等;本文中的信息或所表述的意見不構(gòu)成任何投資建議,詩與星空不對因使用本文章所采取的任何行為承擔(dān)任何責(zé)任。
版權(quán)聲明:本文章內(nèi)容為詩與星空原創(chuàng),未經(jīng)授權(quán)不得轉(zhuǎn)載。
原文標題 : 大模型為什么要強調(diào)全棧自研?

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀”爆發(fā)至今,五類新物種登上歷史舞臺
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計算迎來商業(yè)化突破,但落地仍需時間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機器人東風(fēng)翻身?