Marvell，背刺博通？

2023年9月，一則短短的消息，就引發了三個矽谷巨頭的股價波動。

這則訊息的內容很簡單，就是Google計畫逐步放棄博通客製化的TPU，最早在2027 年轉向Marvell，由它來客製化新的AI晶片。

要知道，博通和Marvell在定制晶片領域可是​​老對手了，而谷歌又是對定制芯片需求最大的廠商之一，如果它選擇其中一位作為長期合作夥伴，那麼此消彼長之下，行業老大和第二可能會出現互換位置的情況。

更重要的是，伴隨著巨頭模仿谷歌做自研晶片，定制芯片市場迅速膨脹，連英偉達都動了心，根據研究公司650 Group 的估計，數據中心定制芯片市場今年將增長至100 億美元，到2025 年將翻倍。 Needham 分析師Charles Shi 表示，到2023 年，更廣泛的客製化晶片市場價值約為300 億美元，約佔全球晶片年銷售額的5%。

博通之前舉辦了半導體解決方案的投資者日活動，對自己的半導體業務做了一個詳盡的介紹，尤其是對博通的定制XPU，半導體解決方案集團總裁Charlie Kawwas強調，博通所定制的XPU在HBM上比英偉達B200多出了整整50%，博通可以比其他人做得更好、更快、更省電。

而在半個個多月後，Marvell也按捺不住，舉辦了一場"人工智能時代的加速基礎設施"活動，在活動裡著重提到了數據中心的未來預期和增長動力，其中當然也包括了定制晶片.

那麼，Marvell對於客製化晶片有多少底氣呢？

Marvell的AI佈局

Marvell的ASIC業務，來自於它在2019年5月花了7.4億美元從格芯那裡收購的Avera，在收購完一年後，Marvell就宣布了提供客製化ASIC SoC 服務，對於客戶來說，透過這項服務，不僅能夠利用自己現有的IP和客製化位，還同時獲得了Marvell豐富的IP庫，同時大幅縮短研發晶片時間，有百利而無一害

Marvell表示，客戶可以使用標準的Marvell晶片，然後添加客製化介面、加速器或適合所需工作負載的客製化演算法，客製化工作通常需要12 到18 個月的周轉時間，一旦客製化ASIC晶片完成組合、模擬和驗證，Marvell將充當客戶與工廠之間的聯絡人，以確保按時交付。如果客戶選擇在任何產品中使用與ARM相容的CPU內核，Marvell也將負責授權和版稅交易。

就當時而言，這項服務並沒有掀起太大的波瀾，即使是博通已經連續為谷歌定制數代TPU，獲得的營收與利潤依舊保持著一個較低的水平，並不足以撬動更大的市場。

不過，最大的雲端服務廠商——亞馬遜，卻很樂意為這項服務買單。早在2020 年12月，亞馬遜推出了一款全新的機器學習客製化訓練晶片Trainium，與標準的AWS GPU 實例相比，AWS 承諾可帶來30% 的吞吐量提升、以及降低45% 的單次引用成本，隨後亞馬遜又在2023年11月推出了升級版Trainium 2，這兩代晶片推出的最大功臣，就是Marvell的客製化部門。

2023年6月，自由時報報道稱，Marvell 獲得亞馬遜AI 訂單。透過此次合作，Marvell 將協助亞馬遜第二代AI 晶片（即Trainium 2）的設計，預計2023年下半年啟動委託設計，2024年進入量產。

在Marvell官網上，你可以輕鬆找到它在AWS背後發揮的作用，作為戰略供應商，Marvell不僅提供了雲端優化晶片，幫助滿足AWS客戶的基礎設施需求，還提供了電子光學、網路、安全、存儲和客製化設計等一系列解決方案。

在Marvell發布的截止至2024年2月3日的第四財季與年度財務報告中，該季度營業收入為14.27億美元，超出先前預期。 Marvell的董事長兼執行長馬特墨菲先生強調：「Marvell第四季營收超過了預期，而人工智慧帶來的營收成長更是驚人，Marvell的資料中心終端市場的營收季增幅達到了38%，年成長則高達54%。

趕上了人工智慧浪潮的Marvell，實質上成為了繼英偉達和博通後的第三大晶片贏家。

Marvell的AI業務現狀

在最新的人工智慧活動上，Marvell也是第一時間宣布了關於客製化晶片超大規模客戶的重要消息，據Needham 分析師Quinn Bolton稱，除了已經為某位客戶（可能是亞馬遜）推出的人工智慧培訓加速器之外，Marvell 還計劃在2025 年為另一位客戶（可能是Google）推出人工智慧推理加速器。

Marvell提供了一部分關於客戶的細節：第一位客戶正在將Marvell 晶片用於其AI 集群和系統，兩家公司正在共同開發新的客製化AI 介面加速器，而Marvell 還在為其第二個超大規模客戶設計Arm電腦處理單元(CPU)，以部署在其雲端平台和AI 基礎設施中。

執行長Matt Murphy 也宣布了一個重磅消息，Marvell已經獲得了第三個AI 超大規模客戶（可能是微軟），兩家公司正在合作設計一款AI 加速器，預計將於2026 年投入生產，該客戶所貢獻的收入可能比與前兩位客戶的總和還要大。他也指出，Marvell 與AI 超大規模廠商的關係使其「相對於競爭對手（即博通）具有顯著優勢」。

比較有趣的是，Marvell在介紹完客製化晶片後，也分析了資料中心的市場與機會。 Marvell 認為，傳統通用計算將以3% 的複合年增長率增長，實際上是根據通貨膨脹調整後的負增長率，而加速計算市場的複合年增長率將高達32%，由於超大規模企業構建自己的晶片，客製化細分市場將以45% 的複合年增長率成長，並在2028 年佔據加速運算市場的更大份額。

根據Marvell公佈的數據，預計明年與人工智慧相關的總收入將增加兩倍，在2025 財年，人工智慧收入將超過15 億美元，佔總收入的30%，是前一年人工智慧所佔份額的三倍，而在與人工智慧相關的收入中，交換互聯產品約佔三分之二，客製化計算約佔三分之一。

Needham 分析師Quinn Bolton表示，在互連方面，Marvell透過新市場支援了超過40 億美元的新資料中心。在交換領域，Marvell的路線圖很有競爭力，與博通的戰斧（Tomahawk）和傑里科（Jericho）路線圖相比，Marvell已經獲得了更多份額。

具體而言，Marvell提到資料中心內部的前端網路/後端網路中，在DSP、驅動器、TIA 方面保持領先，產品率先應用到8*200G 的1.6T 光模組中，且積極建構AEC DSP 產品生態系統，新增10 億美元DSP 潛在市場規模；資料中心之間互聯，在相干DSP、驅動器、TIA、矽光晶片方面保持領先，目前Marvell產品可以覆蓋120km，針對更遠距離已經開發出新技術PCS，使可插拔模組的覆蓋範圍擴展到1000 公里，新增10 億美元潛在市場規模。

Marvell在交換方面的投資推動了交換和某些互連方面的發展。該公司表示，其資料中心交換研發增加了2.5 倍，由Innovium 衍生的Teralynx 10 51.2T 產品已開始量產。

在這一領域中，Marvell 正在與博通正面交鋒，其計劃加大AI 雲端交換方面的投資，目前它已在12.8T交換機晶片產品殺個實現大規模量產，並推出51.2T 交換晶片，預計將於2024 年夏季量產。

Marvell也詳細介紹了互連的必要性以及人工智慧基礎設施中有多少互連，其中包括機箱內互連以及資料中心、前端和後端網絡，Marvell表示，隨著叢集規模的增加，互連需求的成長速度會更快，較大的集群需要更多級別的交換，且目前互連代際轉變的速度正在加快， 2023 年作為AI 元年，AI 在一半的時間內將互聯速度提升一倍，互聯速度由過去的4 年兩倍變為2 年兩倍，由400G 向著1.6T、3.2T 等更高速發展。

此外，Marvell也提到，AI 大規模集群帶來更多的光互連需求。 ChatGPT 3.0 在1000XPU 叢集上訓練，對應2000 個光學互連（XPU：光模組需求為1:2）；ChatGPT 4.0 在2.5 萬XPU 叢集上訓練，對應7.5 萬個光學互連（XPU：光模組需求為1:3），Marvell 預計未來對於更複雜的AI 大模型，需要10 萬級甚至百萬級規模的XPU 叢集。預計10萬級XPU 叢集需要五層交換技術，對應50 萬個光學互連（XPU：光模組需求為1:5）；預計100 萬級XPU 叢集需要十層交換技術，對應1,000 萬個光學互連（XPU：光模組需求為1:10）。

Marvell表示，AI 訓練和推理對集群存在差異化需求，催化新的基礎設施建設。訓練時，集群大，數量少。推理時，小集群，但數量多。但這兩者都將驅動大量的光互聯。同時AI 發展需要更多的電力、更好的冷卻、有望推動更多的資料中心建設、對應更多的地點和更多的互聯。 AI 集群的連接距離從不到2 公里增加到10-20 公里，因此需要具有相干技術的長距離傳輸特性且與PAM 連接相似體驗的互連技術。

對此，Marvell 不僅擁有交換機，還擁有龐大的光學產品組合以及DSP 等，在人工智慧時代到來之際，Marvell能夠透過自己的互連產品拿下更多市場份額。

此外的Marvell還宣布了3D SiPho（矽光子）引擎，該技術將32 個200G 鏈路置於單一晶片上，並能夠將其整合到不同的應用中。它討論了這些3D SiPho 引擎在許多用例中的使用，包括明年的可插拔模組和未來的光學小晶片。

需要注意的是，雖然博通在先前的活動中提到了51.2T 聯合封裝光學交換機，但Marvell 表示其客戶尚未為此做好準備，但它已準備好大部分IP。它還表示，隨著速度的提高，因為使用了更低成本的CW 雷射和更少的組件，SiPho 以更低的成本擴展變得更加重要，

另外值得一提的是，Marvell執行長Matt Murphy也告訴投資者，就目前而言，客製化晶片目前的毛利率低於該公司的現成產品，即所謂的「商業」晶片。

「我們總是說客製化業務的毛利率會低於商業型產品。但隨著時間的推移，營運利潤率實際上會大致持平。」 Murphy說。

博通曾在3月表示，其客製化晶片利潤率將與其公司平均水平持平，這意味著目前Marvell的客製化業務還未完全成熟，或是收取的客製化費用相較於博通更低一些，隨著Google和微軟這樣的超大規模客戶加入，Marvell的客製化利潤率或許會有一定改善。

寫在最後

對比博通，Marvell似乎更重視自身產品在AI中發揮的作用，說是情有獨鍾也不為過。

其中固然有Marvell在市場中處於一個相對弱勢的地位的原因，但從另一個角度來看，Marvell對於新機會有著更積極的態度，在2023年之前，Marvell還只有亞馬遜一家大客戶，而2024年剛開始，Marvell就擁有了四大客製化客戶中的三家，和業界龍頭博通平齊，這樣的速度讓其他廠商相形見絀。

隨著AI基礎設施與客製化需求的膨脹，博通和更積極擁抱AI的Marvell的差距會不會進一步縮小呢？我們拭目以待。(半導體產業觀察)