前言
與輝達一樣，博通無疑也是AI時代的受益者之一。憑藉2024財年創紀錄的業績表現，博通的市值成功邁入“兆美元俱樂部”。
2024財年博通的淨收入達516億美元，毛利率高達76.5%，展現出強勁的盈利能力和營運效率。博通的兩大核心業務——半導體技術與基礎設施軟體齊頭並進，表現出色。其中，半導體業務營收創下301億美元的歷史新高；基礎設施軟體業務營收達到215億美元，同比大漲196%。
然而，讓博通真正成為市場焦點的，是其AI業務的驚人爆發力。在博通301億美元的半導體業務中，AI收入高達122億美元，同比增長高達220%。這不僅印證了AI帶來的前所未有的市場紅利，也使博通一躍成為AI時代最具份量的贏家之一。
雖然從大了說，博通就半導體和基礎軟體這兩大業務，但是在這兩大業務之下卻包括26個細分類別，展現出極強的多元化與市場統治力。其中，就半導體業務來說，網路晶片與AI定製晶片是兩大支柱，持續為博通貢獻源源不斷的增長動力。
重要的網路晶片
在高性能計算和AI時代，網路I/O已不再是幕後角色，而是決定系統性能的關鍵要素。
Meta早在2022年OCP全球峰會上便提出觀點：“Network I/O is Key for Recommendation Workloads”（網路I/O對推薦工作負載至關重要）。如今，Google、微軟等超大規模資料中心營運商紛紛投入巨資，部署輝達GPU，建構兆級AI叢集。而在這一宏大佈局中，作為全球最大的網路晶片製造商，博通的網路晶片是不可或缺的基礎設施。
博通分析顯示，當前網路連線在AI硅晶片中的佔比大約為5%-10%，而在50萬到100萬個XPU組成的超大規模叢集中，這一佔比可能攀升至15%-20%。網路連線的高頻寬與低延遲，是釋放這些AI叢集性能潛力的決定性因素。
在網路方面，博通憑藉其強大的乙太網路產品線，為AI叢集提供了兩種系統架構及對應的晶片解決方案。
一類是Endpoint Scheduled系統架構，其主要面向的是小規模AI叢集資料調度，各計算節點（如GPU）之間通過Tomahawk 5乙太網路交換晶片來進行互聯。網路的重要性在博通的Tomahawk晶片身上體現的淋漓盡致，從2010年的640Gbps增長到2022年的51.2Tbps（如下圖所示），Tomahawk實現了80倍頻寬提升，並且實現了超過90%能耗降低。
另一個是對於大規模AI叢集、需要由智能交換機負責資料調度的Switch Scheduled架構中，博通使用上層Spine交換機Ramon和下層Leaf交換機Jericho3-AI來實現多路徑互聯，其中Jericho3-AI也是用來連接各種AI加速器。在高性能計算和大型AI叢集中，這種方法越來越受到青睞，因為它能夠滿足複雜網路環境下的高效通訊需求。Jericho3-AI晶片可連接多達32,000個GPU，每個AI加速器能夠提供800Gbps的資料頻寬，最終能使網路性能提升10%。
除了乙太網路交換晶片，Thor系列網路卡（NIC）也是支撐AI網路的一環，注意這不是輝達的Thor。博通的Thor是一款專為AI最佳化的高性能網路介面卡（NIC）。博通製造NIC已有 20 多年，Thor 1 ASIC 於 2010 年初推出，採用台積電16nm工藝，用於插入PCI-Express 4.0伺服器插槽的網路介面卡。
今年博通又發佈了第二代網路卡晶片Thor 2，Thor 2是業界首款採用5nm CMOS工藝實現的400千兆乙太網路（GbE）NIC裝置，支援16條PCI Express 5.0通道，每條通道的運行速度為32 Gbps。而且Thor 2還可以直接驅動長達5米的銅纜，而大多數 NIC 競爭對手只能驅動2.5米長的銅纜。Thor 2 晶片還支援 RoCE v2 RDMA，它類似於InfiniBand內建的 RDMA，但運行在乙太網路之上。與此同時，博通已開始研發 800 Gbps NIC 晶片Thor 3，再往後是1.6Tb。
乙太網路交換機和網路卡（NIC）是推動博通半導體業務增長的重要來源。博通是乙太網路的堅實擁護者，他們也加入了超級乙太網路聯盟。
全球最大的AI定製晶片服務商
眾所周知，博通是全球最大的AI定製晶片服務商，根據博通今年的財報會所述，其在175億美元的TAM（可服務市場）中佔到大約70%的份額，這一部分也是博通快速增長的業務，而且市場潛力巨大。
2014年，博通正式進軍定製化AI加速器市場，推出了專為高性能計算設計的XPU（加速處理單元）。在過去十年裡，博通與客戶深度合作，研發了多代XPU加速器，並已計畫在2025年下半年推出基於3nm工藝的下一代XPU，加速邁入高性能計算新紀元。
目前，儘管AI晶片在整體營業收入中的佔比仍較小，但這一類股的迅猛增長已成為公司未來最重要的推動力。過去幾年，博通來自定製化業務的營收逐年攀升：2019年博通的半導體解決方案中來自AI市場的業務佔比5%，到2023年這一來源已經佔到15%，而2024財年，博通設定的AI收入佔半導體解決方案總收入的目標為35%。
博通的優勢還在蔓延，因為AI計算需求呈指數級增長，受BLOOM、Cohere、GPT-4、LLaMA等AI模型的推動，博通預測，客戶AI叢集的規模將持續擴張：2022年叢集規模為4K+ XPUs，2023年增長至10K+ XPUs，2024年預計達到30K+ XPUs。博通預測，到2027年，XPU叢集規模有望達到100萬個XPUs。
博通有三個大的客戶（Google、Meta、亞馬遜），他們在XPU領域開展多代戰略合作。而且博通CEO Hock 還透露，博通已被選中與另外兩家超大規模製造商合作，並且正在對其自己的下一代 AI XPU 進行深入開發。
博通CEO Hock Tan表示，隨著三家現有的超大規模客戶打算使用博通套件建構百萬XPU叢集，2027年博通的AI ASIC市場的機會將在600億至900億美元之間。他還透露，博通正在與另外兩家超大規模企業討論將使用其 IP 的定製加速器，這意味著未來還有更多大機遇。
博通能夠在AI定製晶片市場中佔據絕對優勢，關鍵在於其在IP投資方面的前瞻性佈局。早在XPU設計啟動之前多年就對關鍵元件進行IP投資，截至目前，博通已經大約投資了30億美元用於 XPU IP 的差異化和創新。博通擁有業界最廣泛的IP組合之一，累計約21,000項專利，這其中包括SerDes IP、AI最佳化的NICs IP、快取IP、CPO IP軟體API等等。這些廣泛的IP為其差異化的XPU提供了重要支援。
封裝技術也是博通贏下XPU定製化業務的一部分原因，12月5日，博通推出其3.5D eXtreme Dimension 系統級封裝 (XDSiP) 平台技術，3.5D XDSiP 在一個封裝裝置中整合了超過 6000 平方毫米的矽片和多達 12 個高頻寬記憶體 (HBM) 堆疊，可實現大規模 AI 的高效、低功耗計算。與正面對背 (F2B) 方法相比，博通的 3.5D XDSiP 平台在互連密度和功率效率方面取得了顯著的改進。這種創新的 F2F 堆疊直接連接頂部和底部晶片的頂部金屬層，從而提供密集可靠的連接，同時將電氣干擾降至最低，並具有出色的機械強度。
博通目前佔據了AI定製晶片市場的絕對優勢，隨著AI晶片複雜度不斷攀升，對計算、網路與記憶體的要求日益提高，新入局者的技術與成本壁壘將愈加嚴峻。目前，市場上唯一能夠與博通競爭的玩家是Marvell，定製晶片市場正逐步形成博通與Marvell兩強爭霸的格局。
博通對AI市場持樂觀態度，並明確表示將把半導體業務分為AI與非AI兩大類股。憑藉其領先的XPU技術、IP投資與封裝工藝，博通正為AI市場的爆髮式增長做好充分準備。
手握AI Server的“連接利器”：PCIe+Retimer
在當下主流的AI伺服器組態中，PCIe+Retimer（重定時器）是當下實現高速互連的重要手段。如下圖所示，一台15英吋標準AI伺服器往往需要配備多個PCIe插槽和網路介面（NIC），用於連接不同元件。PCIe 是用於連接 CPU、AI 加速器、NIC 和儲存裝置的最關鍵且廣泛採用的協議之一。PCIe Retimer用於延長PCIe訊號傳輸距離並最佳化訊號質量，確保長距離傳輸穩定。
而PCIe交換晶片和Retimer這兩者也是博通的強項。自2003年推出第一代PCIe開始，目前博通已經累計出貨了超過10億個PCIe連接埠。至於Retimer技術是在2018年第四代PCIe開始引入，來解決長距離訊號傳輸問題，而從博通的路線圖來看，在後續的幾代PCIe中一直到第八代，Retimer已經成為標配了。今年3月份，博通推出全球首款 5nm PCIe Gen 5.0/CXL2.0 和 PCIe Gen 6.0/CXL3.1重定時器。
佈局未來互連技術：光互連
隨著AI叢集規模不斷擴大，高速互聯鏈路數量和頻寬需求呈現指數級增長。這種增長帶來了顯著的功耗與成本挑戰，光互聯成為解決這一挑戰的潛力技術之一。
其實在過去幾十年裡，博通在VCSEL（垂直腔面發射雷射器）、EML（電吸收調製雷射器）和高線性連續波 (CW) 雷射器等光互聯技術方面佔據領先的地位。VCSEL和EML技術在實現AI和ML系統的高速互連方面發揮著至關重要的作用，他們分別用於短距離和長距離單模光通訊，如今已經迭代發展到200Gbps速度。博通每年出貨超過5000萬個高速光通訊雷射器，所以這也是一塊不小的業務。
在光互連領域，CPO（光電共封裝）被視為未來AI網路的突破技術。博通在這一領域持續加大投入，並於今年3月推出了業界首款51.2Tbps CPO乙太網路交換機——Bailly。它整合了八個基於硅光子的 6.4-Tbps光學引擎和 Tomahawk 5交換機晶片，與可插拔收發器解決方案相比，Bailly使光學互連的運行功耗降低了70%，硅面積效率提高了8倍。下圖展示了博通的51.2T TH5-Bailly CPO（共封裝光學） 技術及其核心組成部分。博通正在與雲服務提供商 (CSP) 和系統整合商共同設計平台，以加速CPO平台的採用。
另外，今年9月23日，博通宣佈其5nm的Sian 2、每通道 200 Gbps (200G/通道) PAM-4 DSP PHY全面上市。Sian2具有200G/通道電氣和光學介面，可增強支援100 Gbps 電氣和 200Gbps 光學介面的Sian DSP。
無論是銅纜還是光互連，都很依賴SerDes（串並轉換器）技術。博通已經開發了5納米工藝的112 Gb/s SerDes技術，稱為Peregrine。以及3nm的200Gb/s Condor SerDes。這些 SerDes介面不僅能夠支援直接連接銅纜（DAC），而且原生支援CPO。此外，該SerDes技術可以跨多個Broadcom產品平台應用，包括：交換機（Switches）、XPU（處理器）、網路卡（NICs）、數字訊號處理器（DSPs）。
軟體屬性愈發強的博通
在博通516億美元的營收中，基礎設施軟體收入增長至215億美元，佔比高達41.6%，高於2023財年的76億美元。所以，某種意義上，博通也算是一個軟體公司。說到軟體，離不開對VMware的戰略性收購，博通也將VMware變成了一台比其預想更為豐厚的賺錢機器。
讓我們再來回顧下博通悠久的歷史淵源。如今的“博通”最早可以追溯到1961年惠普（HP）的根基，博通的現代發展始於2005年Avago Technologies（安華高）的成立，Avago於2009年成功完成IPO。2014年，Avago通過收購LSI Logic等公司擴展了技術版圖。2016年，Avago收購Broadcom，並統一品牌為Broadcom。隨後，Broadcom繼續實施一系列關鍵併購，包括2017年收購Brocade，2018年收購CA Technologies，2019年收購Symantec企業安全部門，以及2023年收購軟體巨頭VMware。通過這些併購，Broadcom在半導體技術和基礎設施軟體市場建構了強大的競爭力。
結語
博通的成功並非偶然。在AI熱潮席捲全球的背景下，計算需求呈現出爆炸式增長，推動了高性能晶片與網路架構的迭代升級。一面是高速發展的AI定製晶片業務，一面是高效協同的網路與軟體生態，還有PCIe交換機、光學、SerDes、DSP等各種強大的互連技術，博通以強大的“護城河”提供全面的AI解決方案，正在引領AI時代的下一輪增長浪潮。
從網路連線到AI算力，從半導體硬體到軟體基礎設施，博通的每一塊拼圖都恰到好處。如今，它不僅是半導體行業的佼佼者，更成為AI時代不可或缺的基石之一。
站在兆美元的高地上，博通不僅坐擁AI時代的紅利，更正在引領半導體行業的未來。 (半導體行業觀察)