🔷從Scale-Out到Scale-Up,光互連不斷向計算側滲透
🔷LPO、XPO、CPX、CPO開啟AI互連新路線
這兩年,AI算力的爆發正在把資料中心推向一個新的瓶頸:GPU越來越快,但資料卻越來越“搬不動”了。 當訓練叢集從幾百顆GPU擴展到幾萬顆GPU,真正決定系統效率的,已經不只是單顆晶片算力,而是GPU之間能不能以更高頻寬、更低延遲、更低功耗完成資料交換。
這次小編重點看了一份關於AI光互連的白皮書。報告從 Scale-In、Scale-Up、Scale-Out到Scale-Across,系統梳理了AI資料中心不同層級的互連演進,並重點分析了銅互連、LPO、XPO、NPO、CPX以及CPO的技術路線。一個很明顯的趨勢是:光正在一步步從資料中心外部走進機架、走近交換晶片,未來甚至可能進一步進入封裝內部。
所以這篇文章,小編就想和大家一起看看:AI時代,為什麼互連正在成為新的算力瓶頸?銅互連還能撐多久?LPO、XPO、CPO誰會率先爆發?以及這場“光進銅退”的趨勢,又會給矽光、雷射器、光模組和先進封裝產業鏈帶來那些新機會。
一、這份材料真正想說明什麼?
隨著AI算力叢集從幾千顆GPU擴展到數萬乃至更大規模,系統瓶頸正在從“計算能力”轉向“資料搬運能力”,光互連因此從傳統的資料中心配套技術,升級為決定AI基礎設施能否繼續擴展的核心技術。
二、AI的下一場瓶頸,不只是GPU,而是“互連”
過去AI基礎設施競爭的重點是GPU數量和單晶片算力,但隨著LLM參數量、GPU叢集規模以及訓練資料量高速增長,計算性能的增長速度已經明顯快於記憶體頻寬、I/O頻寬以及電互連能力的增長速度。
這意味著,即使擁有更多GPU,如果GPU之間的資料無法快速傳輸,依然會因為頻寬不足、延遲、同步等待以及互連功耗導致GPU利用率下降。因此,下一代AI系統本質上正在從“更快的伺服器”演變成一個超大規模通訊系統,互連能力開始決定整個算力叢集的利用率和投資回報率。
因此給出了一個非常重要的判斷,AI正在讓Photonics(光子技術)從“可選增強項”變成AI系統的必需品,性能瓶頸正在從Compute轉向Communication。
AI訓練需要超高頻寬、低延遲、低功耗以及超大規模擴展能力,這直接推動CPO、矽光、InP以及新型調製器材料進入AI資料中心。
三、AI資料中心互連被重新劃分為四個層級
這份報告很重要的一個框架,就是把AI互連重新劃分為Scale-In → Scale-Up → Scale-Out → Scale-Across,其中不同層級對銅互連和光互連的需求完全不同。
①Scale-In:晶片/封裝內部
主要是Memory-to-xPU、Chip-to-Chip以及封裝內部互連。目前仍然以銅互連為主,例如銅走線、Fly-over Cable以及Co-Packaged Copper。這一層要求極高的頻寬密度、最低延遲和最低pJ/bit,因此反而可能是最後一個大規模光化的領域。長期候選方案包括Photonic Interposer、Glass Interposer以及Embedded Optical Waveguide。
②Scale-Up:機架內部GPU互連
主要解決GPU/加速器之間以及伺服器之間的連接。目前DAC、ACC、AEC等銅互連依然佔據主導地位,而且行業仍在努力延長銅互連的生命周期。
因此,報告並不認為“光馬上全面取代銅”。相反,Scale-Up可能會經歷DAC → ACC/AEC → Optical → NPO/CPX/CPO這樣的漸進式升級。
③Scale-Out:機架到機架
這是目前光互連最重要、最成熟的戰場。隨著800G → 1.6T → 3.2T不斷升級,傳統DSP Pluggable開始向LPO → XPO → NPO → CPO不斷演進,光引擎距離Switch ASIC越來越近,從而降低PCB高速電訊號傳輸距離以及功耗。
④Scale-Across:資料中心/園區之間
距離進一步擴展到10km~1000km,對應DCI以及跨園區互連,核心技術則進一步轉向DWDM、Coherent Optics等長距離光通訊技術。所以整個AI資料中心實際上形成了一條非常清晰的“光進銅退”路線資料中心之間 → 機架之間 → 機架內部 → 封裝內部,但它並不是一次性完成,而是隨著頻寬密度、距離、功耗和成本達到臨界點之後逐層滲透。
四、報告特別強調:不是“銅 vs 光”的簡單替代關係
這一點是整份報告非常重要的觀點。
明確認為,AI互連的未來不是Copper vs Optics的二選一,而是銅和光根據距離、成本、功耗和頻寬密度進行動態分工。短距離場景下,銅依然擁有明顯優勢,成本低、延遲低、短距離功耗低,而且維護簡單。因此,只要銅還能滿足需求,Hyperscaler就會繼續使用銅。
但是隨著SerDes從100G/lane走向200G/lane甚至更高,銅互連逐漸面臨四個問題訊號完整性惡化、傳輸距離縮短、線纜密度上升、Equalization/Retimer帶來的功耗增加,一旦銅互連的系統成本超過臨界點,光互連即使器件本身更貴,也會因為能夠降低系統功耗、提高頻寬密度而變得更具經濟性。
所以未來不是簡單的Copper → CPO而更可能是Copper → AEC/AOC → DSP Pluggable → LPO → XPO/CPX → NPO → CPO這是一個漸進過程。
五、CPO已經開始落地,但Pluggable不會馬上消失
報告對CPO的態度其實比較理性。
CPO已經進入Scale-Out交換機的商業化階段,但目前仍主要集中在少數具有垂直整合能力的平台。
與此同時,傳統Pluggable Optics並不會被CPO立即淘汰,而是通過LPO、XPO以及Open CPX繼續升級。
尤其值得關注的是報告提到的兩條新路線:
XPO(eXtra-dense Pluggable Optics)希望繼續延長可插拔光模組的生命周期,通過液冷和更高密度設計進一步提高單模組頻寬;報告給出的目標達到12.8Tbps/module。
而Open CPX則處在Pluggable與完全CPO之間,試圖通過標準化、可插拔/可更換的Optical Engine解決傳統CPO在可維護性、良率和製造方面的問題。
因此未來很可能不是某一種架構“通吃”,而是Pluggable、LPO、XPO、NPO、CPX、CPO長期並存。
六、下一代光互連出現兩條核心技術路線
報告把未來Datacom Optics進一步劃分成兩個非常值得關注的方向,“Fast and Narrow”——少通道、更高速。
核心邏輯是不斷提高單波長速率100G/λ → 200G/λ → 400G/λ,通過提高單通道速率減少Lane和Laser數量。
對應的核心技術包括InP EML、Silicon Photonics、TFLN、BTO以及新型Hybrid Modulator。
另一條則是“Slow and Wide”——單通道速度適中,但增加通道數量。
例如維持200G/λ,然後通過更多Wavelength、Fiber以及Waveguide實現超大總頻寬。它的優勢是能夠繼續使用更加成熟的SOI Silicon Photonics、Silicon MZM/MRM以及InP Laser,製造良率、可靠性和成本更有優勢。
代價則是需要更多SerDes、光纖、Waveguide以及封裝I/O資源。
所以未來光互連的技術競爭,本質上也是提高單Lane速率 vs 增加平行通道數量,兩種路線之間的競爭與融合。
七、AI正在把整個Photonics產業鏈拉入新的擴張周期
報告最後真正想表達的不只是“CPO會增長”,而是AI正在重新定義整個光子產業鏈的價值。
隨著AI CapEx不斷擴大,真正需要同步擴產的不只是GPU,還包括Optical Transceiver → Laser → EML/VCSEL → Silicon Photonics/PIC → Optical Engine → Advanced Packaging → Fiber/Connector → PCB/Substrate → Test Equipment。
甚至提出一個非常形象的觀點“Every dollar of AI CAPEX needs photons to move data.”也就是說,AI資本開支最終都會對應大量的資料傳輸需求。因此對於Hyperscaler而言,未來不僅要“搶GPU”,還必須確保Laser、PIC、光模組、先進封裝以及測試產能能夠同步擴張。
而報告認為現有光子供應鏈原本並不是按照如此激進的AI擴張速度建立的,因此未來最大的挑戰之一反而可能變成光器件製造能力和供應鏈擴產速度能否跟上AI基礎設施建設。
🏁 小編總結
AI算力競爭正在從“GPU性能競賽”進入“系統互連競賽”,隨著Scale-Out、Scale-Up乃至Scale-In頻寬密度持續提升,銅互連逐漸逼近物理與功耗極限,光互連將沿著Pluggable → LPO/XPO → NPO/CPX → CPO不斷向GPU和Switch ASIC靠近,最終推動矽光、雷射器、PIC、光子封裝、連接器與測試裝置形成新一輪AI基礎設施升級周期。 (芯聯匯)
