訂閱
糾錯
加入自媒體

IBM研發(fā)共封裝光學技術,加速AI模型訓練

2024-12-23 09:40
Ai芯天下
關注

前言:

新的光電共封裝技術或取代數(shù)據(jù)中心中的電互連裝置,大幅提高AI和其他計算應用的速度與能效。

作者 | 方文三

圖片來源 |  網(wǎng) 絡 

IBM新型的共封裝光學技術

近日,IBM宣布了一項重大的光學技術突破,該技術可以以光速訓練AI模型,同時節(jié)省大量能源。

IBM發(fā)布的技術論文顯示,這項技術是一種新型的共封裝光學技術(co-packaged optics),可以利用光速實現(xiàn)數(shù)據(jù)中心內(nèi)部的連接,從而替代目前使用的銅電纜。

盡管光纖技術已在全球商業(yè)和通信中廣泛應用,但大多數(shù)數(shù)據(jù)中心內(nèi)部仍依賴于銅電纜進行短距離通訊。這導致GPU加速器在訓練過程中常常處于閑置狀態(tài),浪費大量的時間和能源。

因此IBM的研究團隊展示了如何將光的速度和容量引入數(shù)據(jù)中心,顯著提高數(shù)據(jù)中心的通信帶寬,減少GPU的閑置時間,從而加速AI模型的處理速度。

共封裝光學技術的核心理念

共封裝光學技術,是將激光器、調(diào)制器、光電探測器等光學元件與電子元件共同封裝在一個芯片內(nèi)。這種技術不僅提高了產(chǎn)品的集成度和可靠性,還顯著降低了系統(tǒng)成本和復雜度。

通過光纖連接,CPO芯片能夠?qū)崿F(xiàn)高速、高效的光學傳輸和處理,從而大幅提升系統(tǒng)性能。

事實上,CPO并不是最近才有的新技術。早在一年前,臺積電就攜手博通、英偉達等大客戶共同推進這項技術的研發(fā)進度,制程技術從45nm延伸到7nm,原計劃2024年就開始迎來大單,并在2025年左右達到放量階段。

比現(xiàn)有芯片間通信帶寬快80倍

得益于近年來芯片技術的飛速發(fā)展,芯片上能夠容納更多、更密集的晶體管。以IBM的2納米芯片技術為例,其可在單一芯片上植入500多億個晶體管。

在這樣的技術基礎上,光電共封裝技術致力于擴大加速器之間的互連密度,幫助芯片制造商在電子模組上添加連接芯片的光通路,從而突破現(xiàn)有電子通路的帶寬限制。

IBM所研發(fā)的新型高帶寬密度光學結構以及相關創(chuàng)新成果,通過每個光通道傳輸多個波長,有望將芯片間的通信帶寬提升至電線連接的80倍。

增加光纖連接數(shù)量

與目前最先進的光電共封裝技術相比,IBM的創(chuàng)新成果使芯片制造商能夠在硅光子芯片邊緣增加六倍數(shù)量的光纖,即所謂的“鬢發(fā)密度 (beachfront density)”。

每根光纖寬度約為頭發(fā)絲的三倍,長度從幾厘米到幾百米不等,卻可傳輸每秒萬億比特級別的數(shù)據(jù)。

這意味著數(shù)據(jù)中心內(nèi)部的數(shù)據(jù)傳輸能力將得到極大提升,為大規(guī)模數(shù)據(jù)的快速處理提供了有力支持。

通過嚴格測試確保穩(wěn)定性

IBM團隊采用標準封裝工藝,在50微米間距的光通道上封裝高密度的聚合物光波導 (PWG),并與硅光子波導絕熱耦合。

尤為值得一提的是,此次光電共封裝模塊采用50微米間距的聚合物光波導,首次成功通過了制造所需的所有壓力測試。

這些測試涵蓋高濕度環(huán)境、 -40°C至125°C的極端溫度以及機械耐久性測試,確保了光互連裝置即使在彎曲等復雜情況下,也不會出現(xiàn)斷裂或數(shù)據(jù)丟失的問題,為該技術在實際數(shù)據(jù)中心環(huán)境中的可靠應用提供了堅實保障。

原理簡單實際推廣上難度并不小

這種所謂的“硅光芯片”,是在硅的平臺上,將傳統(tǒng)芯片中的電晶體替換成光電元件,進行電與光訊號的傳導。對比傳統(tǒng)芯片會出現(xiàn)電訊號的丟失與耗損的情況,光訊號不僅損耗少,還實現(xiàn)更高頻寬和更快速度的數(shù)據(jù)處理。

首先,硅光產(chǎn)品并沒有到大規(guī)模需求階段。雖說有自動駕駛和數(shù)據(jù)中心兩大領域的需求,但目前還沒有主流芯片廠商推出高性能芯片。

其次,硅光產(chǎn)品需要考慮相對高昂的成本問題。受限于大量光學器件,一個硅光器件需要采用各種材料,在缺乏大規(guī)模需求的情況下,硅光產(chǎn)品成為一種“高價、低性價比”的產(chǎn)品。同時,器件的性能與良品率難以得到保障。

最后,硅光芯片在打通各個環(huán)節(jié)還需要努力。例如設計環(huán)節(jié),雖然已經(jīng)有EDA工具支持,但算不上專用;而在制造與封裝環(huán)節(jié),類似臺積電、三星等大型晶圓代工廠都沒有提供硅光工藝晶圓代工服務。

即便是已經(jīng)推出COUPE技術的臺積電,短時間內(nèi)會專注更加成熟的封裝方案,很難勻出產(chǎn)能提供給硅光芯片。

結尾:

面對日益增長的 AI 性能需求,光電共封裝技術開創(chuàng)了一條新的通信途徑,并可能取代從電子到光學的模塊外通信,這一技術突破延續(xù)了IBM 在半導體創(chuàng)新方面的領導地位。

內(nèi)容來源于:美通社:IBM 發(fā)布光學技術關鍵突破,生成式AI迎來"光速時代";鎂客網(wǎng):IBM官宣全新光學技術,用光也能訓練AI?

       原文標題 : AI芯天下丨趨勢丨IBM研發(fā)共封裝光學技術,加速AI模型訓練

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

    掃碼關注公眾號
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯
    x
    *文字標題:
    *糾錯內(nèi)容:
    聯(lián)系郵箱:
    *驗 證 碼:

    粵公網(wǎng)安備 44030502002758號