推廣活動

GPU互聯,最新熱點

RexAA
•
AI速讀
隨著AI需求激增,資料傳輸已成為制約效能提升的主因。HotI'26組委會指出,業界正從單一節點設計轉向「機架級計算」,以Nvidia NVLink為代表的技術正將整個機架轉化為統一的GPU運算單元。技術路徑上,NPO、CPO及矽光子技術被視為解決能耗與頻寬密度問題的關鍵。目前市場正處於多種互連標準(如UALink, ESUN, NVLink)的競爭期,未來1-3年將進入從追求單純鏈路速度轉向系統級性能優化的轉型期,旨在降低資料中心在互連端的預算支出。

雖然像GPU這樣的專用加速器在人工智慧熱潮中備受矚目,但事實上,目前制約工作效率提升的瓶頸在於資料傳輸,而非資料處理。近期在矽谷舉辦的Hot Interconnects 2026大會展示了互連和網路領域的最新突破。我們最近採訪了HotI'26組委會,聽取了他們對此的看法。

HPCwire:目前高性能計算和人工智慧的瓶頸似乎在於資料傳輸,因為記憶體頻寬(以及網路)的增長速度並沒有跟上處理能力的增長。您認為造成這種情況的原因是什麼?

HotI'26組委會:晶片內部計算的速度會隨著處理技術的進步(包括節點尺寸的增大)而提升,但晶片間的資料傳輸速度卻無法同步提升。此外,隨著處理器速度的提升和資料傳輸需求的增加,互連技術必須應對序列或平行互連方案的選擇、SerDes的成本以及尚未成熟的能耗預算等問題。

這種情況已經持續了大約十年,只是在過去五年裡,由於人工智慧/機器學習計算需求的激增(邁向“超級”智能及更高層次!),我們才更加深刻地感受到這一點;因此,擴展領域(縱向擴展、橫向擴展和跨域擴展:HotI'26 的主題)也得到了持續改進。隨著處理任意複雜查詢所需的推理能力不斷增長,資源解耦架構和機架級計算(例如 CXL、NVLink/NVSwitch 等)目前仍佔據著有利地位。

HPCwire:在過去的六到十二個月裡,您在互連領域看到的最有前途的發展是什麼?(請隨意選擇不同的時間段)。

HotI'26組委會:最有前景的發展是(眾多)從前面板可插拔元件向NPO和CPO演進的新方法,尤其是像基板中間垂直鏈路這樣的3D解決方案。這些方法將互連與計算ASIC更緊密地耦合在一起,以解決海岸線問題並降低能耗。大多數此類解決方案需要外部雷射器,但我們看到越來越多的方法將光源放置在NPO或CPO上,而不僅僅是調製和檢測位置。

圍繞光學器件的MSA(多系統協議)和標準(例如近封裝光學器件外形尺寸OpenCPX)的社區的興起,簡化了光學器件的組裝和測試,為提高能效並增強光鏈路架構的靈活性提供了途徑。今年大會上的所有MSA(OpenCPX、XPO、SDM4 MCF和OCI)都解決了製造、頻寬密度和能效方面的重要挑戰,為下一代系統的交付奠定了基礎。

另一方面,機架級計算正在取得顯著進展:Nvidia NVLink/NVSwitch 已將 AI 系統設計從節點級思維轉向機架級思維,一個包含 72 個 GPU 的 NVL72 機架可以作為一個統一的 GPU 運行。Nvidia 宣佈,第六代 NVLink Vera Rubin 將為每個 GPU 提供 3.6 TB/s 的吞吐量,每個 NVL72 機架可提供 260 TB/s 的縱向擴展頻寬。Nvidia NVLink Fusion 通過允許合作夥伴將定製 CPU 和 XPU 連接到 Nvidia 的機架級平台,將這一優勢擴展到了半定製 AI 基礎設施。更廣泛地說,近期圍繞縱向擴展互連技術的行業活動,例如 UALink 2.0(4 月)和 Ultra Ethernet 1.1(10 月),反映了一種普遍的轉變:機架內部的互連架構正日益成為 AI 和 HPC 系統設計中至關重要的組成部分。

HPCwire:您預計互連技術在未來六到十二個月內會發生怎樣的變化(我隨意設定的時間表也一樣)。

HotI'26組委會:頻寬增長仍然是一個令人興奮的前沿領域,但其未來一年不斷上漲的物理成本可能會推動互連設計向系統設計轉變。屆時,最佳化目標將從原始鏈路速度轉向交付的應用性能,這意味著彈性(例如,最大保留時間)、工作負載感知(例如,推理與訓練)以及延遲/功耗/成本權衡必須與頻寬協同最佳化,而不是作為事後考慮的因素。

新的幾項市場服務協議(3月份簽署了四項,10月份又簽署了一項)有望就某些方法達成行業共識,從而擴大市場規模,加速新技術的普及應用。未來24-36個月內,我們將看到光路交換機的應用日益廣泛,但只有採用新的網路架構,才能充分發揮其優勢。而這些新的網路架構在進行大規模部署之前,需要經過驗證。

HPCwire:矽光子學如何影響網路和互連技術的發展?

HotI'26組委會:矽光子技術正在推動傳輸距離、能源效率和頻寬密度的提升。它降低了規模化傳輸的密度,並允許在拓撲結構、尺寸和頻寬增加方面擁有更大的靈活性。多機架系統架構在規模化傳輸方面湧現出大量創新,多家公司正在探索光纖佈局、連接器、雷射器以及托盤和機架可維護性方面的新設計。矽光子技術將帶來巨大的收益,尤其是在降低功耗方面,最高可達200 Gb/s/通道,但其發展潛力究竟有多大尚不明朗。

HPCwire:您認為未來 12 到 18 個月內,矽光子技術的發展會受到那些因素的阻礙?

HotI'26組委會:這項技術在過去幾年中日趨成熟,但隨著對雷射器、製造、組裝和測試的需求不斷增長,供應出現了瓶頸。封裝、通道速度以及不同材料等因素都限制了這項技術的應用(其影響甚至超過了研發本身)。

HPCwire:目前看來,下一代規模化互連領域存在很多不同的標準在競爭,例如 UALink、ESUN 和 NVLink Fusion。這種協議多樣性是好事還是壞事?市場是否需要單一標準?

HotI'26組委會:我們必須拭目以待,但在當前人工智慧/機器學習領域,市場不會容忍三種標準長期共存(除非廠商做出穩定的承諾)。只要廠商能夠為客戶帶來特定價值,像NVLink這樣的專有互連技術就會繼續存在。ESUN似乎越來越受歡迎,如果獲得廠商的共同支援,它甚至可能佔據主導地位(NVIDIA已經開始支援它)。另一方面,UALink的前景則有些不明朗。

HPCwire:您目前對 2026 年底互連技術的發展現狀最興奮的是什麼?

HotI'26組委會:這是一個創新與顛覆並存的時代。我們尚不清楚那些解決方案最終會勝出,而在此之前,整個行業的發展都將受到阻礙。最令人興奮的是,互連技術正受到如此廣泛的關注。

當然,原因在於資料中心預算大致可以分為兩部分:計算和互連或網路。計算能夠產生收益,而互連則不能。因此,重點在於降低互連所消耗的預算,而這種關注會轉化為對開發新型互連技術的科技公司的更多投資。 (半導體行業觀察)