3nm賽道，擠滿了ASIC晶片

最近，市場關注的兩家ASIC企業都發佈了自家的財報。

博通2025財年第一季度財報顯示，營收149.16億美元，同比增長25%，淨利潤55.03億美元，同比增長315%。其中，第一季度與AI有關的收入同比增長77%至41億美元。

Marvell預計第一財季銷售額約為18.8億美元，同比增長27%。其中，AI業務收入達7億美元左右，主要是亞馬遜等客戶定製ASIC等產品需求增長的帶動。

01

ASIC，越發豐富

今年以來，大模型的更迭越發的激烈。DeepSeek研究團隊再放大招，公開NSA演算法。同日，馬斯克發佈Grok 3模型，號稱拳打DeepSeek腳踢OpenAI。

DeepSeep之風正盛，將全球科技產業的重心從訓練推向推理階段。由於DeepSeek是MOE模型，能夠實現更低的啟動比。算力、記憶體、互聯原有平衡發生劇變，新算力架構機會再次進入同一起跑線。

這種條件下，定製化晶片ASIC似乎越來越適合AI時代。

ASIC晶片的主要根據運算類型分為了TPU、DPU和NPU晶片，分別對應了不同的基礎計算功能，也有不同的優勢。

TPU

先來看TPU。TPU的核心是矩陣乘法單元，它採用脈動陣列架構，這意味著資料以類似心臟跳動的方式在晶片內流動。這種架構允許高度平行的乘法和加法操作，使得TPU能夠在每個時鐘周期內處理大量的矩陣運算。

如果把TPU比作一個工廠，這個工廠的任務是把兩堆數字（矩陣）相乘。每個工人（脈動陣列的小格子）只需要做簡單的乘法和加法，然後把結果傳給下一個工人。這樣，整個工廠就能高效地完成任務，而且速度比普通的工廠（比如CPU或GPU）快很多。

TPU的優勢是能夠高效處理大規模矩陣運算，支援神經網路的訓練和推理任務。所以，更加適合用在資料中心的AI訓練和推理任務，如自然語言處理、電腦視覺和語音識別。

DPU

其次來看DPU。DPU能夠處理大量的網路封包，包括接收、分類、轉發和過濾等。它通過硬體加速引擎（如網路處理引擎）來加速網路操作，減少CPU在網路處理上的負載。

DPU就像是一個快遞中心，它負責接收包裹（資料），快速分揀，然後把包裹送到正確的地方。它有自己的小助手（加速器），這些小助手很擅長處理特定的任務，比如快速識別包裹的地址或者檢查包裹是否完好。這樣，DPU就能讓整個快遞系統（資料中心）運行得更高效。

DPU的優勢是可以解除安裝CPU的部分任務，減少CPU的負擔。最佳化了資料傳輸路徑，從而提高系統的整體效率。所以，它的應用場景是資料中心的網路加速、儲存管理、安全處理等。

NPU

再來看NPU。NPU是專門為神經網路計算設計的晶片，採用“資料驅動平行計算”的架構。它能夠高效執行大規模矩陣運算，特別是摺積神經網路（CNN）中的摺積操作。

如果把NPU比作一個廚房，這個廚房有很多廚師（計算單元），每個廚師都能同時做自己的菜（處理資料）。比如，一個廚師負責切菜，一個廚師負責炒菜，另一個廚師負責擺盤。這樣，整個廚房就能同時處理很多道菜，效率非常高。NPU就是這樣，通過平行處理，讓神經網路的計算變得更快。

NPU的優勢就是執行AI任務時功耗較低，適合邊緣裝置。並且，專為神經網路設計，適合處理深度學習任務。所以，NPU的應用場景是人臉識別、語音識別、自動駕駛、智能相機等需要進行深度學習任務的領域。

簡而言之，TPU適合深度學習、DPU適合資料中心的資料管理、NPU通過平行計算快速完成神經網路任務，適合各種AI應用。

最近，還出現了LPU，一種專門為處理語言任務而設計的晶片。它的推出就是專門針對語言處理最佳化的架構和指令集，能夠更高效地處理文字、語音等資料，從而加速大語言模型的訓練和推理過程。

摩根士丹利預測AI ASIC的總可用市場將從2024年的120億美元增長到2027年的300億美元，期間輝達的AI GPU存在強烈的競爭。

現在，在ASIC賽道上的玩家，已經越來越多。

02

擁擠的ASIC賽道

3nm ASIC晶片的賽道上擠滿了大廠。

亞馬遜一直在致力於自研晶片以降低資料中心成本。

2022年，AWS發佈了Trainium 1和 Inferentia 2晶片。當時，Trainium1在訓練方面表現不是很好，更加適合AI推理工作。

之後，AWS又發佈了當前的Trainium 2，採用5nm工藝。單個Trainium 2晶片提供650 TFLOP/s的BF16性能。Trn2實例的能效比同類GPU實例高出25%，Trn2 UltraServer的能效比Trn1實例高三倍。

去年12月，亞馬遜宣佈要推出全新 Trainium3，採用的是3nm工藝。與上代 Trainium2 相比，計算能力增加2倍，能源效率提升40%，預計2025年底問世。

據瞭解，在AWS的3nm Trainium項目中，世芯電子（Alchip）和Marvell展開了激烈的競爭。

世芯電子（Alchip）是第一家宣佈其3nm設計和生產生態系統準備就緒的ASIC公司，支援台積電的N3E工藝。Marvell則在Trainium 2項目中已經取得了顯著進展，並有望繼續參與Trainium 3的設計。

當前的競爭焦點在於：後端設計服務和CoWoS產能分配上。看誰能夠在Trainium項目爭取到更多的份額。

之前我們提到的TPU，以Google的TPU最具有代表性。Google的TPU系列晶片從v1到最新的Trillium TPU。TPU為Gemini 2.0的訓練和推理提供了100%的支援。據Google這邊說，Trillium 的早期客戶AI21 Labs認為是有顯著改進的。AI21 Labs首席技術官Barak Lenz表示：“Trillium在規模、速度和成本效益方面的進步非常顯著。”現在Google的TPU v7正在開發階段，同樣採用的是3nm工藝，預計量產時間是在2026年。

據產業鏈相關人士透露，GoogleTPU晶片去年的生產量已經達到280萬到300萬片之間，成為全球第三巨量資料中心晶片設計廠商。

從合作對象來說，Google和博通始終是在深度合作的。Google從TPU v1開始，就和博通達成了深度合作，它與博通共同設計了迄今為止已公佈的所有TPU，而博通在這方面的營收也因Google水漲船高。

微軟在ASIC方面也在發力。Maia 200是微軟為資料中心和AI任務定製的高性能加速器，同樣採用3nm工藝，預計在2026年進入量產階段，至於現在Maia 100，也是專為在Azure中的大規模AI工作負載而設計。支援大規模平行計算，特別適合自然語言處理（NLP）和生成式AI任務。從現在的資訊來看，這款產品微軟選擇和Marvell 合作。

LPU與GPU對比

早在今年1月就有消息傳出，美國推理晶片公司Groq已經在自己的LPU晶片上實機運行DeepSeek，效率比最新的H100快上一個量級，達到每秒24000token。值得關注的是，Groq曾於2024 年12月在沙烏地阿拉伯達曼建構了中東地區最大的推理叢集，該叢集包括了19000個Groq LPU。

Open AI首款AI ASIC晶片即將完成，會在未來幾個月內完成其首款內部晶片的設計，並計畫送往台積電進行製造，以完成流片（taping out）。最新消息是，OpenAI會在2026年實現在台積電實現量產的目標。

03

ASIC真的划算嗎？

Google、AWS、Open AI都在加大對自研ASIC的投入。那麼，ASIC真的划算嗎？

先從性能上來看，ASIC是為特定任務定製的晶片，其核心優勢在於高性能和低功耗。在同等預算下，AWS的Trainium 2可以比輝達的H100 GPU更快速完成推理任務，且性價比提高了30%～40%。Trainium3計畫於2025年下半年推出，計算性能提高2 倍，能效提高40%。

並且，GPU由於架構的特性，一般會在AI計算中保留圖形渲染、視訊編解碼等功能模組，但在AI計算中這些模組大部分處於閒置狀態。有研究指出，輝達H100 GPU上有大約15%的電晶體是未在AI計算過程中被使用的。

從成本上來看，ASIC在大規模量產時，單位成本顯著低於GPU。ASIC在規模量產的情況下可以降至GPU的三分之一。但一次性工程費用NRE（Non-Recurring Engineering）非常高。

以定製一款採用5nm製程的ASIC為例，NRE費用可以高達1億至2億美元。然而一旦能夠大規模出貨，NRE費用就可以很大程度上被攤薄。

此前有業內人士分析，中等複雜程度的ASIC盈虧平衡點在10萬片左右，這對於很多廠商來說已經是遙不可及。

但對於大規模部署的雲端運算大廠或AI應用提供商，ASIC的定製化優勢能夠顯著降低營運成本，從而更快地實現盈利。

04

算力走向推理，ASIC的需求只多不少

在溫哥華NeurIPS大會上，OpenAI聯合創始人兼前首席科學家Ilya Sutskever曾作出“AI預訓練時代將終結”的判斷。

巴克萊的一份報告預計，AI推理計算需求將快速提升，預計其將佔通用人工智慧總計算需求的70%以上，推理計算的需求甚至可以超過訓練計算需求，達到後者的4.5倍。

輝達GPU目前在推理市場中市佔率約80%，但隨著大型科技公司定製化ASIC晶片不斷湧現，這一比例有望在2028年下降至50%左右。

不過，在博通的觀察中，AI訓練仍然是會佔據主流。博通CEO陳福陽最近表示：“公司把推理作為一個獨立的產品線，推理與訓練晶片的架構非常不同。公司預計三個客戶未來需求市場總量將達600億～900億美元，這個需求總量既包含了訓練，又包含了推理，但其中訓練的部分更大。”

對於第二季度來講，博通對於ASIC的預期仍舊保持樂觀。預計第二季度博通的AI半導體收入將繼續保持強勁增長勢頭，達到44億美元。

Marvell在電話會議上，同樣也展示了對於ASIC的信心。透露其定製的ARM CPU，將在客戶的資料中心中得到更廣泛的應用。並且定製的人工智慧 XPU，其表現也非常出色，未來將有大量的量產。 (半導體產業縱橫)