輝達不僅是圖形和人工智慧硬體領域的領導者，它還已成為網路行業的巨頭，其資料中心乙太網路的銷售額超過了任何其他供應商。
第二季度，輝達的網路業務收入超過175 億美元。作為對比，思科同期所有產品的總收入為 173 億美元。
GPUzilla 成為網路巨頭似乎來得突然，但 Jensen Huang 早在 2019 年就通過斥資 69 億美元收購長期網路合作夥伴 Mellanox 開始朝著這個目標努力。
當時，Mellanox在乙太網路交換領域並不算知名企業。該公司主要以其ConnectX網路卡和InfiniBand交換機而聞名。除了高性能計算（HPC）和超級計算叢集，以及微軟的大規模部署之外，InfiniBand在超大規模資料中心並未得到廣泛應用。
收購Mellanox使輝達得以重新定位自身，成為一家系統整合商，這在分散式運算領域有著截然不同的意義。輝達意識到，其資料中心客戶對購買GPU甚至伺服器都不感興趣；他們需要的是系統叢集。為此，輝達需要互連技術，而Mellanox的InfiniBand恰好滿足了這一需求。
多年來，黃仁勳一直倡導協同設計——設計元件和軟體，使其能夠協同工作以完成特定任務，而不是僅僅追求成為性能最佳的GPU、交換機或網路卡。他與Mellanox的合作就是這種理念的絕佳例證。
據 Dell'Oro Group 分析師 Sameh Boujelbene 稱，輝達決定整合計算和網路技術，成為該公司成功的關鍵。
她告訴《The Register》 ： “客戶選擇輝達是因為它擁有緊密整合的計算和網路架構，並針對人工智慧工作負載進行了最佳化。”這種整合簡化了部署流程，加快了產品上市速度。
人工智慧和機器學習先驅公司 Recursion 的首席技術官 Ben Mabey 告訴The Reg ，輝達的整合方案贏得了他的青睞。
Recursion 成立於 2013 年，比 ChatGPT 讓 AI 成為餐桌上的熱門話題早了近十年。該公司致力於將運行在 GPU 上的機器學習應用於藥物發現問題。
這項工作涉及處理海量資料集，Mabey 告訴我們，這些資料集的總大小現在超過 50 PB。
“當你想到我們的工作量時，與需要處理的資料量相比，LLM 的工作量培訓似乎就顯得容易了，”他告訴《註冊報》。
他補充說：“在生物學領域乃至整個科學領域，人們並沒有充分意識到資料量究竟有多大。網際網路固然龐大，但從整體來看，人們用來訓練的文字資料實際上非常少，與我們擁有的PB級圖像資料相比，簡直微不足道。”
Recursion 的第一個叢集系統名為 BioHive Zero，它由原本用於遊戲系統的 GTX 1080 顯示卡拼湊而成。該系統使用乙太網路連接 GPU，但很快就遇到了傳統網路技術的瓶頸。
因此，對於其第二個叢集（一台基於 A100 的機器，擁有大約 300 個加速器），Recursion 選擇了輝達的 Quantum InfiniBand 交換機和 ConnectX 網路卡。
正如 Mabey 所解釋的，從同一供應商處採購計算資源和互連裝置極大地簡化了最佳化和故障排除工作。當 Recursion 聯絡 Nvidia 尋求系統調優方面的幫助時，Nvidia 可以將整個系統視為一個整體，而不是獨立的計算和網路資源。這種程度的整合此前只有像 Cray 或 Atos（Eviden/Bull/或者它接下來會改什麼名字）這樣的精品超級電腦製造商才能提供。
輝達並非一直將網路業務收入作為單獨的財務報表項目列出。然而，根據首席財務官的評論和一些簡單的估算，我們可以推斷出其中的緣由。
自 2019 年收購 Mellanox 以來，輝達的網路業務收入呈爆炸式增長，這使得該公司能夠以系統整合商而非 GPU 製造商的身份參與競爭。自收購Mellanox以來，輝達的網路業務收入穩步增長。但其中有兩個時期，其收入出現了突然飆升。
第一個是在 2023 年（2024 財年），當時 OpenAI 推出了 ChatGPT，掀起了人工智慧淘金熱潮。
第二個階段跨越 2024 年和 2025 年，屆時輝達開始銷售 Blackwell 一代 GPU，然後開始大量出貨。
Boujelbene 表示：“我看到了兩個主要的轉折點，這兩個轉折點都與 Blackwell 平台的普及同步：NVLink 交換機的推出以及 Spectrum-X 乙太網路交換機在 AI 後端網路中的加速普及，這得益於 Nvidia GPU 叢集部署的不斷增長以及 Nvidia 交換機、網路卡、光模組和線纜連接率的提高。”
大約就在這個時候，使用者開始在輝達叢集上大規模部署乙太網路交換機。埃隆·馬斯克的巨像超級電腦就是最早的例子之一。
正如我們當時報導的那樣，基於 H100 和 H200 晶片的 20 萬個晶片組成的叢集的第一部分於 2024 年上線，當時它是使用輝達 Spectrum-X 乙太網路交換機部署的最大叢集之一。
Meta 還在其自身的訓練叢集中廣泛使用了輝達的 Spectrum 交換機，包括位於俄亥俄州新奧爾巴尼的擁有百萬 GPU 的 Prometheus 站點。
Nvidia 的 Spectrum-X 產品表現如此出色，主要有兩個原因。
首先，通過結合 Spectrum 乙太網路交換機、超級網路卡和一些巧妙的軟體最佳化，Nvidia 能夠複製 InfiniBand 的許多吸引人的特性，同時還受益於更高的基數和互操作性。
乙太網路交換機（包括輝達自家的產品）歷來都提供更多連接埠。基數越高，在給定連接埠速度下支援叢集所需的交換機數量就越少。
這常常被誤解為InfiniBand無法擴展到特定規模以上的叢集，但事實並非如此。不過，對於GPU數量超過一定限度的叢集，乙太網路通常更經濟，因為它在實現類似利用率的同時，所需的裝置更少。
話雖如此，輝達的Spectrum-X並非獨一無二。博通、思科、AMD和其他公司也通過在智能網路卡和交換機方面的各種投資，實現了與InfiniBand類似的利用率。
正如 Mabey 和 Boujelbene 之前指出的那樣，Nvidia 的主要區別在於計算和網路之間的整合程度。
隨後 Blackwell 進入市場，實現了更大的規模擴張，並帶動了輝達網路收入的激增。
在 Blackwell 之前，Nvidia 的 NVLink 和 NVSwitch 互連技術主要侷限於最多配備八個 GPU 的單個系統。隨著 GB200 NVL72 的發佈，這些 NVSwitch 被拆分為專用裝置。（是的，我們還記得 GH200 NVL256 和 NVL32，但據我們所知，它們從未大規模出貨，甚至可能根本沒有出貨。）
每售出一套NVL72 機架系統，輝達就同時售出九個 NVSwitch 托架，這使得該系統中的六十多個 GPU 可以作為一個巨型 GPU 協同工作。這有效地保證了網路業務收入的穩定增長：即使客戶沒有購買輝達的橫向擴展交換機，如果他們需要 NVL72 機架，就相當於同時購買了 NVSwitch。
Boujelbene告訴El Reg ： “我們估計，NVSwitch目前約佔輝達網路業務收入的三分之一，而不到兩年前這部分收入幾乎為零。這凸顯了NVLink交換技術如何迅速成為輝達網路業務的主要增長引擎。”
輝達正通過一項新的授權計畫，進一步拓展其網路業務。
直到最近，輝達的NVSwitch技術還僅限於其自家的加速器使用。然而，隨著去年初NVLink Fusion的推出，輝達向第三方開放了這項互連技術，允許其獲得授權。
包括 Marvell、高通、Arm、富士通、聯發科和 d-Matrix 在內的多家晶片設計公司已宣佈計畫開發採用 NVLink Fusion 互連技術的 CPU 和 XPU。這種互連技術的普及為 NVSwitch 的進一步銷售打開了大門，因為採用 NVLink Fusion 的晶片仍然依賴 NVSwitch 進行晶片間通訊，而且由於輝達尚未授權 NVSwitch，目前尚無其他途徑獲得 NVSwitch。
“NVLink Fusion 讓輝達能夠將其網路業務拓展到自家 GPU 之外，進入快速增長的定製加速器市場。我認為這是一項戰略舉措，旨在佔據更大的 AI 網路支出份額，即使在不使用輝達 GPU 的叢集中也是如此，”Boujelbene 表示。
輝達在網路領域的雄心壯志遠不止於此。
“隨著網路需求不斷演變，以滿足日益增長的人工智慧工作負載需求，輝達將繼續在新興網路領域尋求機遇，”布傑爾本補充道。“最新的例子是可擴展網路，旨在滿足智能體人工智慧的新需求；而諸如CPO之類的創新將有助於克服日益增長的頻寬、功耗和可擴展性挑戰。”(半導體行業觀察)