長期而言，英偉達（輝達）會感受到對中國出口更為嚴格限制的影響，這將對該股造成壓力。

美東時間10月24日，英偉達（NVDA.O）發佈公告稱，美國對公司實施的附加出口管制改為立即生效，而非一周前（10月17日）約定的30天窗口期。包括中國大陸市場特供版本A800和H800等晶片出口都將受到波及。

截至美股10月25日收盤，英偉達股價下跌4.31%至417.79美元，後又於10月26日下跌3.48%，目前總市值9,960億美元。

英偉達表示：“鑑於全球市場對公司產品的強勁需求，我們預計許可要求的加速不會對財務業績產生短期有意義的影響。”

不過長期來看，中國市場是英偉達業務佈局的重要組成部分。英偉達第二季財報顯示，公司營收達135.07億美元，年增101.48%。其中，來自中國市場（包括中國香港）收入達27.4億美元，占公司總營收的比重為20.29%。

「最終，英偉達將感受到對中國出口更為嚴格限制的影響，這將對該股造成壓力。」KeyBanc Capital Markets表示。

該機構分析師約翰·維恩（John Vinh）將英偉達的目標價從750美元下調至650美元，但仍維持「增持」評級。同時，維恩將公司2025財年每股收益預期從25.62美元下調至20.84美元；營收預期從1,160億美元下調至968億美元。

此外，摩根士丹利分析師約瑟夫·摩爾（Joseph Moore）把英偉達目標價從630美元下調至600美元；花旗分析師阿迪夫·馬利克（Atif Malik）則將公司目標價從630美元下調至575美元。兩位分析師均對該股維持「增持」或「買進」評等。

英偉達是圖形處理單元(GPU) 和專用積體電路(ASIC) 的主要供應商，也是AI所需先進運算的晶片提供者。

2022年10月，美國首次實施晶片出口管制，其中涉及英偉達的A100和H100晶片。為符合標準，英偉達向中國企業提供了替代版本A800和H800。

過去一年來，投資人面對美國晶片出口管制維持較為樂觀的態度，主要理由是AI應用晶片需求強勁，可以讓英偉達克服在中國市場受到的衝擊。AI熱潮之下，英偉達股價年初至今漲幅達近200%。

10月17日，美國更新上述對華出口管制規定，收緊AI晶片限制。可以預見的是，隨著人工智慧晶片技術進步，英偉達在中國的長期收入將受到阻礙。「無論如何，這種情況都會發生。英偉達向中國合法銷售的商品，與世界其他地區商品之間差距會越來越大。」Bernstein分析師史黛西·拉斯貢（Stacy Rasgon）寫道。

維恩在研究報告中指出：「我們正在降低對英偉達2025財年的預期，以反映中國限制措施增加帶來的阻力。」在他看來，新的限制對英偉達來說是長期負面的，因為最終將很難滿足中國市場的需求。

「假設出口限制對英偉達2025財年資料中心預期營收（1,010億美元）產生20%影響，最後結果可能會帶來約200億美元阻力，並對25.62美元每股預期收益產生約5美元的負面影響。」維恩解釋。

不過，也有觀點認為這次管制影響有限。Piper Sandler分析師 Harsh Kumar 在報告中寫道：「英偉達或將迅速重新設計晶片以滿足新標準，對當前業務前景幹擾較小。」庫馬爾維持對英偉達股票的「增持」評級和620美元目標價。

近期，英偉達也在探索新的成長路徑。10月18日，英偉達宣布擴大與富士康（2317.Taiwan）的合作關係，共同建造「人工智慧工廠」（AI factories），用於包括自動駕駛汽車、自主機器人和工業機器人等方面的開發。

英偉達CEO黃仁勳先前曾表示，汽車業對晶片製造商（英偉達）來說是一個價值3000億美元的機會。另一方富士康則以製造iPhone聞名，現有工廠能夠幫助其擴大業務，特別是進入製造電動車領域。

“預計富士康將為其全球客戶群構建大量基於英偉達CPU（中央處理器）、GPU和網路的系統，這些客戶群希望創建和運營自己的人工智能工廠，並使用英偉達的AI企業軟體進行優化。”英偉達在聲明中表示。

10月24日，根據路透社報道，英偉達已經開始設計中央處理器，該處理器將運行微軟（MSFT.O）Windows作業系統，並使用Arm（ARM.O）技術。報告引述一位知情人士消息稱，英偉達和AMD（AMD.O）最早可能在2025年銷售PC晶片，加入高通（QCOM.O）行列，後者自2016年以來一直在為筆記型電腦生產基於Arm的晶片.

富國銀行分析師亞倫·雷克斯（Aaron Rakers）在一份研究報告中寫道：隨著PC製造商越來越關注AI運算能力，英偉達和AMD瞄準基於Arm的晶片是有意義的。根據Mercury Research數據，截至6月30日的12個月內，基於Arm的PC（包括Mac）佔據了12%的市場份額——這個比例在一年前是9%，兩年前僅為2% 。

NewStreet Research分析師皮埃爾·費拉古（Pierre Ferragu）則認為，Arm要在PC市場獲得吸引力是「極其困難」的，因為目前基於Arm處理器並取得成功的產品只有蘋果（AAPL.O ）的筆記本和桌上型電腦。但他補充說：“GPU和CPU更緊密的整合是一道強大的價值命題，尤其對於遊戲和3D圖形設計的筆記本。”（巴倫周刊）

今年夏天，英偉達（輝達）創辦人黃仁勳特別騰出時間，拜訪了一個名叫戰略與國際研究中心（CSIS）的智庫。在美國，智庫的意見能在很大程度上左右華盛頓的政策走向，深處科技戰前線的黃仁勳自然深知這一點。

黃仁勳上來就是一頓彩虹屁，並明確表達了捐贈的意願。隨後他話鋒一轉，表示有一位小同志嚴重拖累了智庫隊伍的整體水平，建議清除出去。

這位小同志不是別人，正是CSIS資深研究中心主任Gregory C. Allen，也是美國晶片出口管制政策的堅定鼓吹者。

面對美國的打壓，英偉達似乎比中國公司還要著急。過去數月，黃仁勳一直在盡力阻止制裁落地。

除去給智庫施壓，黃仁勳也當面警告了華盛頓決策層，認為制裁會造成嚴重代價。同時，他也不忘敦促美國半導體產業協會發表譴責聲明，強調進一步限制將損害產業的競爭力[2]。

今年7月，黃仁勳還拉上高通和英特爾去了華盛頓，目的也是說服美國政府放鬆對華限制。

然而，美國仍在10月17日更新了晶片出口管制，中國特供版晶片H800和A800也被列入禁售範圍。更令人驚訝的是，用於遊戲的消費級顯示卡RTX 4090也進了名單。

這對英偉達來說無疑是致命一擊，長期以來，中國大陸市場一直佔據其20%以上的收入。10月17日出口管制發布當天，英偉達股價下跌近5%，AMD和英特爾也跟著跌了1%。

那麼，英偉達是否真的無法取代？中國市場之於英偉達又意味著什麼？

簡單來說，美國政府在新的出口管制政策中增加了多個新指標，不僅把特供產品H800和A800牢牢卡死，還順便誤傷了消費級顯示卡RTX4090，搞得國內黃牛趁機漲了一波價。

為什麼說是「誤傷」？雖然RTX4090和H100都是GPU，但兩者的設計想法截然不同。

例如，RTX4090的頻率強於H100，因為更高的頻率能夠提供更強的圖形渲染能力。而H100的強項則是理論算力、顯存大小和顯存頻寬，這是因為AI推理和訓練都非常考驗資料的吞吐效率，這也是為什麼H100需要昂貴的HBM3記憶體。

至於玩遊戲，H100甚至都不支援主流遊戲的圖形介面。這也符合英偉達官方的「消費性」和「計算類」的歸類。

在一些討論中，RTX 4090由於更低的價格、不差的算力、更低的功耗，一度被認為同樣可以用於高效能運算。

客觀地說，鐵了心也能用。但一般而言，RTX 4090由於顯示記憶體和頻寬的限制，最多只能用作推理晶片。

AI晶片根據部署位置區分，大致可分為雲端晶片和終端晶片。雲端晶片用於訓練模型，俗稱訓練晶片；終端晶片用於終端設備，根據訓練好的模型對即時資料執行推理任務，俗稱推理晶片。

職責不同，導致對訓練晶片和推理晶片的性能要求也有很大差異：訓練晶片需要透過海量資料訓練可靠的模型，因此對資料傳輸速率、算力等指標有相當極端的要求。這也是為什麼H100不惜用上昂貴的HBM記憶體和CoWoS封裝，都是為了資料吞吐效率。

「特供版」的H800和A100，閹割的也是記憶體頻寬，算力其實沒有改變。

推理晶片一般處理即時任務，對於低延遲的要求更高，而且由於部署在終端，還要考慮功耗、大小、成本等問題。因此，用RTX4090這類消費級顯示卡強行訓練，過低的頻寬會帶來「記憶體牆」的問題。

無論是Google的TPU、還是特斯拉的FSD晶片，大部分應用場景都是推理。大部分國產AI晶片，也都是走推理晶片的路子。

而在訓練晶片這個場景下，英偉達的確是目前最好的選擇。

從絕對的算力來講，H100並不是巔峰。但在AI訓練這件事上，一口氣買幾百塊顯示卡的科技公司更在意的是另一個指標：單位成本的算力。

這也是為什麼大家寧願加價搶H100，也不願意買「青春版H100」－A100：以H100 SXM版本、A100 80GB SXM版本8月的售價（24000美元、15000美元）計算，每單位算力的成本分別為12.13美元、24.04美元，H100 SXM優勢明顯。

另外，資料中心建置完成後，還需要考慮電力、維運、故障、後期支援等多方面成本。種種因素疊加，大家還是老實地拿起了號碼牌，加入了漫長的H100等待序列中。

例如特斯拉，前腳宣布給自研的Dojo超級電腦投10億美元，後腳就透露要購買10000張H100用於驅動AI負載。

簡言之，在推理場景下，英偉達尚有替代方案；但在訓練晶片裡，英偉達是事實上的唯一方案。

原因在於，英偉達真正的護城河，是軟體。

今年10月10日，AMD宣布打算收購一家名為Nod.ai的AI開源軟體新創公司，以補足其軟體短板。

雖然貴為GPU產業的世界第二，但長期以來AMD的市佔率只能和英偉達二八開，在以AI為代表的高效能運算市場，存在感就幾乎為0。

事實上，AMD的AI晶片理論參數並不差，與H100對標的MI250X，雖然在FP32/FP64精度下的算力略遜於H100，但考慮到10000美元的售價，MI250X的「單位成本算力「其實更高，理論上可以成為比H100更好的選擇。

但實際上，不管是大公司還是新創公司，大家還是比較喜歡H100。原因就在軟體，也就是大名鼎鼎的CUDA。

眾所周知，GPU最初的目的是為遊戲和影片進行圖像渲染。黃仁勳幾乎是所有奧斯卡「最佳視覺效果」提名電影背後的男人。2007年，英偉達也曾獲得一個分量十足的獎項：艾美獎，以表彰其對娛樂產業的重大貢獻。

首先發現GPU被大材小用的是華爾街菁英，在渲染影像時所用到的平行運算能力，正符合金融場景裡高頻交易的需求。

不過，在用GPU跑交易之前，得先編寫大量的底層語言程式碼，這顯然勸退了一大批交易員。

為了降低GPU的編程門檻，David Kirk說服黃仁勳在2006年推出CUDA，CUDA的全名為Compute Unified Device Architecture，即計算統一設備架構，其作用也直白地寫在名字裡了：為GPU編程提供統一架構，使其滿足不同應用場景下的算力需求。

伴隨CUDA推出的是一本程式設計指南，裡面詳述了實現效能的具體方法，並且隨著產品的升級迭代不斷更新，至今已更新到12.3版。

這樣的說明書在今天看來是基礎必備，在當時與競爭對手的差距也不過兩年，但先發者的一步領先卻足以定義產業。

CUDA推出後，英偉達迅速打開了新業務的大門，在航空航太、天文學、氣象學領域都有GPU的身影。

2009年，蘋果的開發團隊推出OpenCL，支持者包括AMD和英特爾，希望能以通用性在CUDA身上分一杯羹。但作為追趕者，OpenCL平台上的開發者自然更少，容易陷入惡性循環。

而CUDA則在「使用人數越多，CUDA平台就越好用，新開發者就越傾向於選擇CUDA」的良性循環中，加強了生態優勢。

在深度學習爆發後，許多學習框架要么是在CUDA發布之後才會支持OpenCL，要么壓根不支持OpenCL，使得OpenCL始終無法觸及更高附加價值的業務[5 ]。

2016年，AMD自家軟體ROCm姍姍來遲，在投入不如英偉達的情況下，服務更新上落後CUDA，因此也難與CUDA抗衡。

晶片的架構和製程可以靠一兩代產品迅速拉近差距，但一個成熟的生態系統卻很難被破壞。CUDA生態遍佈各行各業，從企業蔓延到教育系統。吳恩達曾評價：CUDA出現之前，全球能用GPU編程的可能不超過100人。而目前全球的CUDA開發者已經達到數百萬。

從某種程度上來說，CUDA已成為業界的事實標準。它的另一個特點是：只能和英偉達的硬體適配。

因此，任何開發者想要脫離CUDA生態，都得考慮標新立異的成本與風險。

不過對英偉達來說，繁榮的CUDA生態既是令競爭對手望而生畏的高山，卻也是自己的軟肋所在。

黃仁勳之所以如此著急，道理也簡單：如果鐵了心換掉英偉達，也不是不可以。

英偉達固然是人工智慧得以走上時代舞台中央最大的功臣之一，但在當下，它卻有兩個不容忽視的問題：

一是成本過高。以「地表最強GPU」H100為例，首發價為3.3萬美金，如今二手市場價格更一度上漲至5萬美金左右。

科技公司如果要搭建擁有一萬塊H100的資料中心，即便不考慮其他成本和後續開支，光GPU採購費就需要數億美金——即便對《財星》世界500強排行榜上的科技公司來說，這也不是筆小錢，更遑論新創公司。

二是通用晶片難以實現差異化。堆疊算力不是簡單往車上加汽油，需要考慮軟體適配性、自身業務需求等一系列問題。更何況，如果只用英偉達的GPU，代表只有當英偉達出新產品，自家產品才能跟著升級，徹底將戰略主動權交給了黃總。

這就是英偉達面臨的一個尷尬情境：自己的客戶都是自己的對手。

早在2014年，Google已開始了自研晶片的計劃，其最新成果就是TPUv5系列。對參數量小於200B的大模型來說，TPUv5在推理時更具性價比，相較於英偉達GPU有著肉眼可見的成本優勢[4]。

而在重要的中國市場，美國的出口管制其實是在給黃總幫倒忙。

如前文所述，英偉達的核心壁壘在CUDA組成的繁榮生態——它就像一個無數開發者組成的“圈子”，後來者想要進入AI產業，就得融入這個圈子。如果把一部分開發者攔在圈子外面，那麼他們最有可能做什麼：組成一個自己的圈子。

事實上，英偉達非常清楚這一點，其法律顧問Tim Teter就曾這樣警告華盛頓：你冒的風險是刺激了一個由競爭對手主導的生態系統的發展，這可能會對美國在半導體、先進技術和人工智能領域的領導地位產生非常負面的影響。

如果「被踢出圈子」的機率只有1%，那大家只會把它當作一個黑天鵝事件；但一旦這個機率上升到哪怕只有10%，就一定會有人行動起來。這也是為什麼英偉達對美國的出口管制如此警覺——中國科技公司會鐵下心來掀桌子，開始搭建自己的生態。

英偉達並非是唯一有著類似境遇的公司，英特爾與高通也一同參與了施壓美國政府的行動當中。它們的部分競爭力同樣來自生態的構建，英偉達的境遇讓這兩家晶片巨頭深感唇亡齒寒。

要知道，上一輪針對英偉達的出口管制發布後，英特爾專門把Gaudi 2芯片的發布會放在北京開，一口一個“幫助構建中國人工智能的未來”“攜手中國產業生態”，趁機挖黃總牆角的心思昭然若揭。

結果新版出口管制出爐，AMD的MI250X、MI300，英特爾的Gaudi 2、Gaudi 3和黃總一起上了名單。這也難怪有小道消息說，英特爾高層和美國高級官員交涉時[2]，一度急得指著對方鼻子問“到底懂不懂半導體？”

儘管相較於美國，國內的晶片產業整體的差距並不小，但長期的封鎖，一定會加速中國晶片產業的發展。一旦這個過程開始，也許就不可逆了。

這就是英偉達害怕的、美國眾多晶片公司所擔心的事情，正如黃仁勳所說[1]：There is no other China，there is only one China。（遠川科技評論）

儘管Nvidia試圖大幅增加產量，最高端的Nvidia GPU H100將一直售罄到明年第一季度。

生成人工智能即將到來，它將改變世界。自從ChatGPT 風靡全球並抓住了我們對AI 可能性的想像力以來，我們看到各種各樣的公司急於訓練AI 模型並將生成式AI 部署到內部工作流程或面向客戶的應用程序中。不僅僅是大型科技公司和初創公司，許多非科技財富5000強公司正在研究如何部署基於LLM的解決方案。

當然，這將需要大量的GPU計算。GPU銷量像火箭一樣上升，供應鏈一直在努力跟上對GPU的需求。公司正在爭先恐後地獲得GPU或云實例。

即使是OpenAI也無法獲得足夠的GPU，這嚴重阻礙了其近期路線圖。由於GPU短缺，OpenAI無法部署其多模態模型。由於GPU短缺，OpenAI 無法部署更長的序列長度模型（8k 與32k）。

與此同時，中國公司不僅投資部署自己的LLM，而且還在美國出口管制進一步收緊之前進行庫存。例如，Tik Tok背後的中國公司字節跳動（Bytedance）據稱從英偉達訂購了價值超過10億美元的A800 / H800。

最高端的Nvidia GPUH100將一直售罄到明年第一季度，儘管Nvidia試圖大幅增加產量。英偉達將每季度出貨400，000個H100 GPU。

今天，我們將詳細介紹生產瓶頸以及英偉達（輝達）及其競爭對手的下游產能正在擴大多少。

英偉達的H100採用CoWoS-S上的7芯片封裝。中間是H100 GPU ASIC，其芯片尺寸為814mm2。不同SKU之間的HBM配置有所不同，但H100 SXM版本使用HBM3，每個堆棧為16GB，總內存為80GB。H100 NVL將具有兩個封裝，每個封裝上有6個HBM有源層。

在只有5個有源HBM的情況下，非HBM芯片可以為芯片提供結構支持。這些芯片位於一個在圖片中看不清楚的矽插入物之上。該矽插入物位於一個封裝襯底上，該封裝襯底是一個ABF封裝襯底。

英偉達GPU的主要數字處理組件是處理器芯片本身，在名為“4N”的定制台積電工藝節點上製造。它在台積電位於台南的Fab 18製造，與台積電N5和N4工藝節點共享相同的設施。這不是生產的限制因素。

台積電N5工藝節點的利用率降至70%以下，原因是PC、智能手機和非AI相關數據中心芯片的巨大疲軟，英偉達在確保額外的晶圓供應方面沒有問題。

事實上，英偉達已經訂購了大量用於H100 GPU和NVSwitch的晶圓，這些晶圓立即開始生產，遠遠早於它們需要出貨芯片。這些晶圓將存放在台積電的芯片組中，直到下游供應鏈有足夠的能力將這些晶圓封裝成完整的芯片。

基本上，英偉達正在吸收台積電的一些低利用率，並獲得一些定價優勢，因為英偉達已承諾在未來購買成品。

晶圓庫，也稱為芯片庫，是半導體行業的一種做法，其中部分加工或完成的晶圓被存儲，直到客戶需要它們。與其他一些代工廠不同，台積電將通過將這些晶圓保存在自己的賬簿上幾乎完全加工來幫助他們的客戶。這種做法使台積電及其客戶能夠保持財務靈活性。由於它們只是部分加工的，因此晶圓庫中持有的晶圓不被視為成品，而是被歸類為在製品。只有當這些晶圓完全完成時，台積電才能確認收入並將這些晶圓的所有權轉讓給客戶。

這有助於客戶裝扮他們的資產負債表，使庫存水平看起來得到控制。對於台積電來說，好處是它可以幫助保持更高的利用率，從而支持利潤率。然後，當客戶需要更多的庫存時，這些晶圓可以通過幾個最後的加工步驟完全完成，然後以正常的銷售價格甚至輕微的折扣交付給客戶。這有助於客戶修飾他們的資產負債表，使庫存水平看起來處於控制之中。對於台積電說，好處是可以幫助保持更高的利用率，從而支撐利潤率。然後，隨著客戶需要更多庫存，這些晶圓可以通過幾個最終加工步驟完全完成，然後以正常銷售價格甚至稍有扣的價格交付給客戶。

GPU周圍的高帶寬內存是下一個主要組件。HBM供應量也有限，但正在增加。HBM是垂直堆疊DRAM芯片，通過矽通孔（TSV）連接，並使用TCB鍵合（未來需要更高的堆疊數量）。在DRAM芯片下面有一個基本邏輯作為控制器的管芯。通常，現代HBM有8層內存和1個基本邏輯芯片但是我們很快就會看到12+1層HBM的產品，例如AMD的MI300X和英偉達即將推出的H100更新。

有趣的是，是AMD開創了HBM，儘管NVIDIA和谷歌是今天最大的用戶。在2008年，AMD預測，為了與遊戲GPU性能相匹配，內存帶寬的持續擴展將需要越來越多的電源，這將需要從GPU邏輯中轉移，從而降低GPU的性能。AMD與SK Hynix和供應鏈中的其他公司(如Amkor)合作，尋找一種能提供高帶寬、低功耗的內存解決方案。這導致SK Hynix在2013年開發HBM。

SK海力士於2015年首次為AMD Fiji系列遊戲GPU提供HBM，該GPU由Amkor進行2.5D封裝。隨後在2017年推出了使用HBM2的Vega系列。然而，HBM 並沒有改變遊戲GPU性能的遊戲規則。由於沒有明顯的性能優勢加上更高的成本，AMD在Vega之後重新使用GDDR作為其遊戲卡。今天，來自Nvidia和AMD的頂級遊戲GPU仍在使用更便宜的GDDR6。

然而，AMD的最初預測在某種程度上是正確的:擴展內存帶寬已被證明是GPU的一個問題，只是這主要是數據中心GPU的問題。對於消費級遊戲GPU，英偉達和AMD已轉向使用大型緩存作為頓緩衝區，使它們能夠使用帶寬低得多的GDDR內存。

正如我們過去所詳述的，推理和訓練工作負載是內存密集型的。隨著AI 模型中參數數量的指數級增長，僅權重就將模型大小推高到TB。因此，人工智能加速器的性能受到從內存中存儲和檢索訓練和推理數據的能力的瓶頸：這個問題通常被稱為內存牆。

為了解決這個問題，領先的數據中心GPU與高帶寬內存（HBM） 共同打包。英偉達在2016年發布了他們的第一個HBM GPU，P100。HBM 通過在傳統DDR 內存和片上緩存之間找到中間地帶來解決內存難題，以容量換取帶寬。通過大幅增加引腳數，達到每個HBM 堆棧1024 位寬的內存總線，這是每個DIMM 64 位寬度的DDR5 的18 倍，從而實現更高的帶寬。同時，以極低的每比特傳輸能量（pJ/bit）來控制功率。這是通過更短的走線長度實現的，HBM 的走線長度以毫米為單位，GDDR和DDR 的走線長度以厘米為單位。

如今，許多面向HPC的芯片公司正在享受AMD努力的成果。具有諷刺意味的是，AMD的競爭對手Nvidia作為HBM的最高用戶可能受益最多。

作為HBM的先驅，SK Hynix是擁有最先進技術路線圖的領導者。SK Hynix公司於2022年6月開始生產HBM 3，目前是唯一一家批量交付HBM 3的供應商，市場份額超過95%，這是大多數H 100 SKU正在使用的產品。HBM的最大配置現在8層16 GB HBM 3模塊。SK Hynix為AMD MI300X和NVIDIA H 100刷新生產12層24 GB HBM 3，其數據率為5.6 GT/S。

HBM的主要挑戰是封裝和堆疊存儲器，這是SK海力士所擅長的，積累了最強的工藝流程知識。

三星緊跟SK海力士之後，預計將在2023年下半年推出HBM 3。我們相信它們都是為NVIDIA和AMD GPU設計的。他們目前對SK Hynix的數量有很大的虧空，但他們正緊追不捨，正在進行巨大的投資以追趕市場份額。三星正在投資追趕HBM，成為HBM市場份額的第一名，就像他們擁有標準內存一樣。我們聽說他們正在與一些加速器公司達成有利的交易，以爭取更多的份額。

他們已經展示了他們的12層HBM以及未來的混合粘結HBM.三星HBM-4路線圖的一個有趣方面是，他們希望在內部的FinFET節點上實現邏輯/外圍。這顯示了他們在內部擁有邏輯和DRAM製造的潛在優勢。

美光是最落後的。美光在混合內存立方體（HMC）技術上投入了更多的資金。這是一個與HBM競爭的技術，與HBM有著非常相似的概念。然而，HMC周圍的生態系統是封閉的，使得IP很難在HMC周圍發展。此外，還存在一些技術缺陷。HBM的採用率更高，因此HBM成為3D堆疊DRAM的行業標準。

直到2018年，美光才開始從HMC轉向HBM路線圖。這就是為什麼美光是最落後的。他們仍然停留在HBM2E上（SK海力士在2020年中期開始大規模生產），甚至不能成功地製造頂盒HBM2E。

在他們最近的財報電話會議上，美光對他們的HBM路線圖做了一些大膽的聲明：他們相信他們將在2024年通過HBM3E從落後者變成領導者。HBM3E預計將在第三季度/第四季度開始為英偉達的下一代GPU出貨。美光首席商務官SumitSadana表示：“我們的HBM3斜坡實際上是下一代HBM3，與當今業界生產的HBM3相比，它具有更高水平的性能、帶寬和更低的功耗。該產品，即我們行業領先的產品，將從2024年第一季度開始銷量大幅增加，並對2024財年的收入產生重大影響，並在2025年大幅增加，即使是在2024年的水平基礎上。我們的目標是在HBM中獲得非常強勁的份額，高於行業中DRAM的非自然供應份額。”

他們在HBM中擁有比一般DRMA市場份額更高的市場份額的聲明非常大膽。鑑於他們仍在努力大批量生產頂級HBM2E，我們很難相信美光聲稱他們將在2024年初推出領先的HBM3，甚至成為第一個HBM3E。在我們看來，儘管英偉達GPU服務器的內存容量比英特爾/AMD CPU服務器要低得多，但美光科技似乎正在試圖改變人們對人工智能失敗者的看法。

我們所有的渠道檢查都發現SK海力士在新一代技術方面保持最強，而三星則非常努力地通過大幅供應增加、大膽的路線圖和削減交易來追趕。

下一個瓶頸是CoWoS容量。CoWoS是台積電的一種“2.5D”封裝技術，其中多個有源矽芯片(通常的配置是邏輯和HBM堆棧）集成在無源矽中介層上。中介層充當頂部有源芯片的通信層。然後將內插器和有源矽連接到包含要放置在系統PCB上的I/O的封裝基板。

HBM和CoWoS是相輔相成的。HBM的高焊盤數和短跡線長度要求需要2.5D先進封裝技術，如CoWoS，以實現這種密集的短連接，這在PCB甚至封裝基板上是無法實現的。CoWoS是主流封裝技術，以合理的成本提供最高的互連密度和最大的封裝尺寸。由於目前幾乎所有的HBM系統都封裝在Co Wos上，所有先進的人工智能加速器都使用HBM，因此幾乎所有領先的數據中心GPU都是台積電封裝在Co Wos上的。

雖然3D封裝技術，如台積電的SoIC可以直接在邏輯上堆疊芯片，但由於熱量和成本，它對HBM沒有意義。SoIC在互連密度方面處於不同的數量級，更適合用芯片堆疊來擴展片內緩存，這一點可以從AMD的3D V-Cache解決方案中看出。AMD的Xilinx也是多年前將多個FPGA芯片組合在一起的第一批CoWoS用戶。

雖然還有一些其他應用程序使用CoWoS，例如網絡(其中一些用於網絡GPU集群，如Broadcom的Jericho3-AI)、超級計算和FPGA，但絕大多數CoWoS需求來自人工智能。與半導體供應鏈的其他部分不同，其他主要終端市場的疲軟意味著有足夠的閒置空間來吸收GPU需求的巨大增長，CoWoS和HBM已經是大多數面向人工智能的技術，因此所有閒置空間已在第一季度被吸收。隨著GPU需求的爆炸式增長，供應鏈中的這些部分無法跟上並成為GPU供應的瓶頸。

台積電首席執行官魏哲家表示：“就在最近這兩天，我接到一個客戶的電話，要求大幅增加後端容量，特別是在CoWoS中。我們仍在評估這一點。”

台積電一直在為更多的封裝需求做好準備，但可能沒想到這一波生成式人工智能需求來得如此之快。6月，台積電宣佈在竹南開設先進後端晶圓廠6。該晶圓廠佔地14.3公頃足以容納每年100萬片晶圓的3DFabric產能。這不僅包括CoWoS，還包括SoIC和InFO技術。

有趣的是，該工廠比台積電其他封裝工廠的總和還要大。雖然這只是潔淨室空間，遠未配備齊全的工具來實際提供如此大的容量，但很明顯，台積電正在做好準備，預計對其先進封裝解決方案的需求會增加。

確實有點幫助的是，在Wafer級別的扇出封裝能力(主要用於智能手機SoC)方面存在不足，其中一些可以在CoWoS過程中重新使用。特別是有一些重疊的過程，如沉積，電鍍，反磨，成型，放置，和RDL形成。我們將通過CoWoS流程和所有的公司誰看到了積極的需求，因為它在一個後續部分。設備供應鏈中存在著有意義的轉變。

還有來自英特爾、三星和OSAT的其他2.5D封裝技術(如ASE的FOEB)，CoWoS是唯一在大容量中使用的技術，因為TSMC是人工智能加速器的最主要的晶圓廠。甚至英特爾哈巴納的加速器都是由台積電製造和封裝的。

CoWoS有幾種變體，但原始CoWoS-S仍然是大批量生產中的唯一配置。這是如上所述的經典配置:邏輯芯片+HBM芯片通過帶有TSV的矽基中介層連接。然後將中介層放置在有機封裝基板上。

矽中介層的一項支持技術是一種稱為“掩模版縫合”的技術。由於光刻工具狹縫/掃描最大尺寸，芯片的最大尺寸通常為26mmx33mm。隨著GPU芯片本身接近這一極限，並且還需要在其周圍安裝HBM，中介層需要很大，並且將遠遠超出這一標線極限。台積電解決了這與網線拼接，這使他們的模式插入式多次的刻線限制(目前最高3.5倍與AMD MI 300)。

CoWOS-R使用在具有再分佈層（RDL）的有機襯底上，而不是矽中間層。這是一個成本較低的變體，犧牲的I/O密度，由於使用有機RDL，而不是基於矽的插入物。正如我們已經詳細介紹的，AMD的MI300最初是在CoWoS-R上設計的，但我們認為，由於翹曲和熱穩定性問題，AMD不得不使用CoWoS-S。

CoWoS-L預計將在今年晚些時候推出，它採用RDL內插器，但包含有源和/或無源矽橋，用於嵌入內插器中的管芯到管芯互連。這是台積電的相當於英特爾的EMIB封裝技術。這將允許更大的封裝尺寸，因為矽插入物越來越難以擴展。MI300 Co WO SS可能是一個單一的矽插入器的限製附近。

這將是更經濟的更大的設計去與CoWoS-L台積電正在研究一個CoWoS-L的超級載波內插器在6倍分劃板的大小。對於CoWOS-S，他們沒有提到4x reticle 之外的任何內容。這是因為矽插入物的脆弱性。這種矽中間層只有100微米厚，在工藝流程中，隨著中間層尺寸的增大，存在分層或開裂的風險。（半導體材料與工藝設備）

彙整鉅亨號中所有使用「A800」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

巴倫周刊：輝達失去窗口期，也失守萬億市值

誰能代替輝達？

輝達的兩道坎？