IBM研發(fā)共封裝光學(xué)技術(shù),加速AI模型訓(xùn)練
前言:
新的光電共封裝技術(shù)或取代數(shù)據(jù)中心中的電互連裝置,大幅提高AI和其他計(jì)算應(yīng)用的速度與能效。
作者 | 方文三
圖片來(lái)源 | 網(wǎng) 絡(luò)
IBM新型的共封裝光學(xué)技術(shù)
近日,IBM宣布了一項(xiàng)重大的光學(xué)技術(shù)突破,該技術(shù)可以以光速訓(xùn)練AI模型,同時(shí)節(jié)省大量能源。
IBM發(fā)布的技術(shù)論文顯示,這項(xiàng)技術(shù)是一種新型的共封裝光學(xué)技術(shù)(co-packaged optics),可以利用光速實(shí)現(xiàn)數(shù)據(jù)中心內(nèi)部的連接,從而替代目前使用的銅電纜。
盡管光纖技術(shù)已在全球商業(yè)和通信中廣泛應(yīng)用,但大多數(shù)數(shù)據(jù)中心內(nèi)部仍依賴(lài)于銅電纜進(jìn)行短距離通訊。這導(dǎo)致GPU加速器在訓(xùn)練過(guò)程中常常處于閑置狀態(tài),浪費(fèi)大量的時(shí)間和能源。
因此IBM的研究團(tuán)隊(duì)展示了如何將光的速度和容量引入數(shù)據(jù)中心,顯著提高數(shù)據(jù)中心的通信帶寬,減少GPU的閑置時(shí)間,從而加速AI模型的處理速度。
共封裝光學(xué)技術(shù)的核心理念
共封裝光學(xué)技術(shù),是將激光器、調(diào)制器、光電探測(cè)器等光學(xué)元件與電子元件共同封裝在一個(gè)芯片內(nèi)。這種技術(shù)不僅提高了產(chǎn)品的集成度和可靠性,還顯著降低了系統(tǒng)成本和復(fù)雜度。
通過(guò)光纖連接,CPO芯片能夠?qū)崿F(xiàn)高速、高效的光學(xué)傳輸和處理,從而大幅提升系統(tǒng)性能。
事實(shí)上,CPO并不是最近才有的新技術(shù)。早在一年前,臺(tái)積電就攜手博通、英偉達(dá)等大客戶共同推進(jìn)這項(xiàng)技術(shù)的研發(fā)進(jìn)度,制程技術(shù)從45nm延伸到7nm,原計(jì)劃2024年就開(kāi)始迎來(lái)大單,并在2025年左右達(dá)到放量階段。
比現(xiàn)有芯片間通信帶寬快80倍
得益于近年來(lái)芯片技術(shù)的飛速發(fā)展,芯片上能夠容納更多、更密集的晶體管。以IBM的2納米芯片技術(shù)為例,其可在單一芯片上植入500多億個(gè)晶體管。
在這樣的技術(shù)基礎(chǔ)上,光電共封裝技術(shù)致力于擴(kuò)大加速器之間的互連密度,幫助芯片制造商在電子模組上添加連接芯片的光通路,從而突破現(xiàn)有電子通路的帶寬限制。
IBM所研發(fā)的新型高帶寬密度光學(xué)結(jié)構(gòu)以及相關(guān)創(chuàng)新成果,通過(guò)每個(gè)光通道傳輸多個(gè)波長(zhǎng),有望將芯片間的通信帶寬提升至電線連接的80倍。
增加光纖連接數(shù)量
與目前最先進(jìn)的光電共封裝技術(shù)相比,IBM的創(chuàng)新成果使芯片制造商能夠在硅光子芯片邊緣增加六倍數(shù)量的光纖,即所謂的“鬢發(fā)密度 (beachfront density)”。
每根光纖寬度約為頭發(fā)絲的三倍,長(zhǎng)度從幾厘米到幾百米不等,卻可傳輸每秒萬(wàn)億比特級(jí)別的數(shù)據(jù)。
這意味著數(shù)據(jù)中心內(nèi)部的數(shù)據(jù)傳輸能力將得到極大提升,為大規(guī)模數(shù)據(jù)的快速處理提供了有力支持。
通過(guò)嚴(yán)格測(cè)試確保穩(wěn)定性
IBM團(tuán)隊(duì)采用標(biāo)準(zhǔn)封裝工藝,在50微米間距的光通道上封裝高密度的聚合物光波導(dǎo) (PWG),并與硅光子波導(dǎo)絕熱耦合。
尤為值得一提的是,此次光電共封裝模塊采用50微米間距的聚合物光波導(dǎo),首次成功通過(guò)了制造所需的所有壓力測(cè)試。
這些測(cè)試涵蓋高濕度環(huán)境、 -40°C至125°C的極端溫度以及機(jī)械耐久性測(cè)試,確保了光互連裝置即使在彎曲等復(fù)雜情況下,也不會(huì)出現(xiàn)斷裂或數(shù)據(jù)丟失的問(wèn)題,為該技術(shù)在實(shí)際數(shù)據(jù)中心環(huán)境中的可靠應(yīng)用提供了堅(jiān)實(shí)保障。
原理簡(jiǎn)單實(shí)際推廣上難度并不小
這種所謂的“硅光芯片”,是在硅的平臺(tái)上,將傳統(tǒng)芯片中的電晶體替換成光電元件,進(jìn)行電與光訊號(hào)的傳導(dǎo)。對(duì)比傳統(tǒng)芯片會(huì)出現(xiàn)電訊號(hào)的丟失與耗損的情況,光訊號(hào)不僅損耗少,還實(shí)現(xiàn)更高頻寬和更快速度的數(shù)據(jù)處理。
首先,硅光產(chǎn)品并沒(méi)有到大規(guī)模需求階段。雖說(shuō)有自動(dòng)駕駛和數(shù)據(jù)中心兩大領(lǐng)域的需求,但目前還沒(méi)有主流芯片廠商推出高性能芯片。
其次,硅光產(chǎn)品需要考慮相對(duì)高昂的成本問(wèn)題。受限于大量光學(xué)器件,一個(gè)硅光器件需要采用各種材料,在缺乏大規(guī)模需求的情況下,硅光產(chǎn)品成為一種“高價(jià)、低性?xún)r(jià)比”的產(chǎn)品。同時(shí),器件的性能與良品率難以得到保障。
最后,硅光芯片在打通各個(gè)環(huán)節(jié)還需要努力。例如設(shè)計(jì)環(huán)節(jié),雖然已經(jīng)有EDA工具支持,但算不上專(zhuān)用;而在制造與封裝環(huán)節(jié),類(lèi)似臺(tái)積電、三星等大型晶圓代工廠都沒(méi)有提供硅光工藝晶圓代工服務(wù)。
即便是已經(jīng)推出COUPE技術(shù)的臺(tái)積電,短時(shí)間內(nèi)會(huì)專(zhuān)注更加成熟的封裝方案,很難勻出產(chǎn)能提供給硅光芯片。
結(jié)尾:
面對(duì)日益增長(zhǎng)的 AI 性能需求,光電共封裝技術(shù)開(kāi)創(chuàng)了一條新的通信途徑,并可能取代從電子到光學(xué)的模塊外通信,這一技術(shù)突破延續(xù)了IBM 在半導(dǎo)體創(chuàng)新方面的領(lǐng)導(dǎo)地位。
內(nèi)容來(lái)源于:美通社:IBM 發(fā)布光學(xué)技術(shù)關(guān)鍵突破,生成式AI迎來(lái)"光速時(shí)代";鎂客網(wǎng):IBM官宣全新光學(xué)技術(shù),用光也能訓(xùn)練AI?
原文標(biāo)題 : AI芯天下丨趨勢(shì)丨IBM研發(fā)共封裝光學(xué)技術(shù),加速AI模型訓(xùn)練

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車(chē)電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車(chē)】汽車(chē)E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專(zhuān)題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類(lèi)新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?