隨著人工智慧叢集規模擴大至十萬級GPU和XPU，千兆瓦級電力需求下，光網路成為關鍵瓶頸，博通Taurus BCM83640應運而生。這款業界首款面向下一代AI網路的3nm光PAM4 DSP，專為1.6T收發器設計，同時為3.2T模組奠定基礎，可支撐204.8T交換架構，精準解決AI資料中心的頻寬需求。Taurus™ BCM83640 產品亮點採用3nm 單片整合工藝的 1.6T (8:4) PAM‑4 DSP，內建雷射驅動器在誤位元率（BER）與功耗方面，提供業界一流的光模組性能已與博通（Broadcom）400G EML 及光電探測器（PD）實現成熟互操作性全面相容 IEEE 與 OIF 各項標準，晶片至模組的電氣介面可支援長距（LR）鏈路Taurus是什麼？Taurus™ BCM86340 是博通推出的3nm 工藝 1.6T PAM-4 DSP 晶片，單片整合雷射驅動器，在誤位元率與功耗上表現領先。相容 IEEE、OIF 標準，支援 LR 長距鏈路，可適配 1.6T～3.2T 光模組，面向 AI 資料中心高速光互聯。Taurus BCM83640核心優勢顯著，採用3nm單片工藝，整合雷射驅動器，每通道傳輸速率達400G，較當前主流的200G通道速率翻倍，頻寬密度大幅提升。其在誤位元率和功耗上實現同類最佳性能，且符合IEEE和OIF標準，可與博通400G電吸收調製雷射器等元件互操作，電口與光口速率一一對應，大幅簡化了3.2T光模組設計。基於該晶片，單個1RU交換機搭配1.6T可插拔模組，即可實現102.4T交換容量，是上一代技術的兩倍，能高效適配大規模AI叢集的互聯需求。目前，博通已向早期客戶和合作夥伴提供樣品，將於OFC 2026正式發佈，預計2026年底實現量產並應用於下一代交換系統。業內人士認為，Taurus不僅是技術里程碑，更是AI光互聯演進的關鍵，其400G/通道技術將推動1.6T、3.2T光收發器普及，未來5年相關收發器出貨量有望超1億台，為AI資料中心的頻寬擴展提供核心支撐。博通Taurus BCM83640相關問題問：基於Taurus技術的裝置能實現怎樣的交換容量？答：基於Taurus技術的單個1RU交換機，使用1.6T可插拔模組，即可提供102.4T的交換容量，相當於上一代每通道200G技術的兩倍；其支撐的下一代204.8T交換機，可匹配3.2T光收發器，滿足大規模AI叢集需求。問：Taurus BCM83640的技術進展和量產計畫如何？答：目前博通已開始向早期客戶和合作夥伴提供BCM83640的樣品，將於OFC 2026正式發佈，預計到2026年底，該晶片將實現量產並應用於下一代交換系統。問：業內人士對Taurus BCM83640有何評價？答：博通維傑·賈納帕蒂認為其為下一代AI網路和資料中心連接奠定基礎，推動成本最佳化；LightCounting弗拉基米爾·科茲洛夫表示，400G單通道解決方案是跟上AI頻寬增長的有效策略；Eoptolink Technology首席執行長稱其是產品里程碑，能釋放變革性頻寬增長，塑造448G未來。問：未來1.6T和3.2T光收發器的市場預期如何？答：據LightCounting預測，未來5年內1.6T和3.2T光收發器的出貨量將超過1億台，其中近一半將採用400G光模組。 (芯榜)

10分鐘充電約50%，首創六重連接解決方案。芯東西3月2日巴塞隆納報導，剛剛，高通在2026世界移動通訊大會（MWC 2026）上發佈新一代旗艦可穿戴晶片——驍龍可穿戴平台至尊版。驍龍可穿戴平台至尊版採用3nm製程，整合了升級的CPU和GPU，採用全新5核CPU架構。與前代平台相比，其CPU單線程性能提升最高可達5倍，GPU最高FPS性能提升可多至7倍，並提供多達10TOPS的AI算力、可支援在裝置端運行20億參數的AI模型。這是高通面向個人AI裝置推出的迄今最先進可穿戴平台，也是高通首次將“至尊版”品牌標記引入可穿戴領域。高通基於四大核心技術對該平台進行了最佳化，包括端側AI、性能、續航、連接性。最佳化AI體驗方面，驍龍可穿戴平台至尊版整合的eNPU、高通Hexagon NPU、感測器中樞共同工作，使近身的AI終端能夠更深入地理解使用者的日常生活情境。其中，eNPU是高通顯著增強面向低功耗用例的專用AI加速器，能幫Hexagon和MCU分擔AI工作負載，可通過高通AI Runtime（QNN）程式設計。eNPU支援在裝置端運行關鍵詞偵測、動作識別等環境感知類的“低功耗島始終開啟”任務，並支援語音通話回聲消除、噪音抑制等主動模式用例。高通還在可穿戴平台上首次引入了專用Hexagon NPU，使裝置端可直接運行參數規模達20億的模型，首個token生成時間為0.20秒，最高每秒生成10個token。基於驍龍可穿戴平台至尊版，終端能有效處理來自語音、視覺、位置以及各類感測器的多模態輸入，打造個性化的AI智能體，在工作、學習、健康及日常生活的方方面面為使用者提供支援。續航也是一大亮點，驍龍可穿戴平台至尊版可實現日常使用時長（DOU）延長30%、10分鐘充電約50%。連接方面，該晶片首創六重連接解決方案，包括5G RedCap、超低功耗Wi-Fi、藍牙6.0、UWB超寬頻、窄帶非地面網路（NB-NTN）衛星通訊、全球導航衛星系統（GNSS）這6項連接技術。三星宣佈智能手錶會搭載驍龍可穿戴平台至尊版，聯想旗下摩托羅拉也分享了與高通在可穿戴領域的合作。如今，AI模型不斷向更小型化、更高效率方向演進，個人AI終端需要能在裝置本地支援更複雜且持續運行的AI工作負載，並具備更強大的連接能力。通過這些設計，驍龍可穿戴平台至尊版在性能與時延之間實現了更好的平衡，既能更好滿足智能體驗隨時可用的需求、實現當下消費者所期待的高響應體驗，同時又不犧牲產品的尺寸、能效、佩戴舒適度或可用性。 (芯東西)

德銀表示，台積電3nm產能直至2027年已完全訂滿，迫使其將2026年資本支出指引大幅上調至520-560億美元。產能瓶頸導致蘋果、輝達等六大客戶被迫尋求三星和英特爾作為替代方案，台積電先進製程市場份額或微降至90%。該行仍將台積電目標價上調10%至2200新台幣。AI浪潮下晶片需求井噴，由於台積電產能直至2027年都已訂滿，蘋果、輝達等“六大客戶”被迫考慮將部分訂單轉向三星和英特爾。德意志銀行最新發佈的研報顯示，全球半導體代工巨頭台積電（TSMC）正面臨“幸福的煩惱”。由於3nm製程產能極度緊缺，且訂單已排滿整個2026年甚至延伸至2027年，台積電不得不大幅上調資本支出計畫。而這一產能瓶頸正在重塑市場格局，迫使原本依賴台積電的頂級客戶開始認真考慮三星（Samsung）和英特爾（Intel）作為替代方案。德意志銀行分析師Robert Sanders等在報告中指出，台積電公佈的2026年資本支出指引高達520億至560億美元，這一數字顯著高於該行預期的500億美元及市場共識的460億美元。分析師認為，這實際上是台積電承認其2025年的資本支出計畫在面對飆升的AI需求時“過於保守”。目前的局面已不再是簡單的CoWoS封裝產能溢出，而是核心的晶圓製造產能——尤其是3nm製程——出現了嚴重的供不應求。這種供需失衡正在產生直接的市場溢出效應。報告強調，儘管三星和英特爾在代工記錄上“毀譽參半（chequered record）”，但蘋果、輝達、AMD、博通、高通和聯發科這“六大客戶”目前別無選擇，只能尋求替代產能。受此影響，台積電在先進製程代工領域的市場份額預計將從95%下滑至90%。資本支出激增至560億美元，3nm產能“一票難求”台積電第四季度財報中最引人注目的數字莫過於其對2026年的資本支出指引。520億至560億美元的規模表明，公司正全力以赴應對產能危機。德意志銀行指出，考慮到台積電2026年全年的產能很可能已經完全被預訂，且訂單積壓已深入2027年，這一支出的激增並不令人意外。此前，面對AI需求的爆發，最初的瓶頸主要集中在CoWoS封裝環節，這導致部分訂單溢出至日月光（ASE）和安靠（Amkor）等廠商。然而，目前的情況更為嚴峻：需求遠遠超過了供應，尤其是3nm製程。報告資料顯示，儘管台積電計畫在2026年底將3nm產能提升至每月19萬片晶圓（190k wpm），但仍無法滿足客戶胃口。德意志銀行在報告中提到：“客戶想要更多產能是台積電高利用率下的常態，但達到這種程度卻是前所未有的。”六大客戶被迫“分流”，三星泰勒工廠或成首選產能的極度緊張正在迫使台積電採取更激進的策略。據報導，台積電正在推遲啟動新的3nm開發項目，轉而引導客戶將2027/28年量產的產品規劃更多地轉向2nm GAA製程。同時，台積電也在利用定價策略來“推動”客戶做出這一轉變，這一點從其強勁的2026年一季度指引中可見一斑。這種次優的局面迫使全球最大的六家晶片設計公司——蘋果、輝達、AMD、博通、高通和聯發科——不得不將目光投向競爭對手。德意志銀行分析認為，在這場產能爭奪戰中，三星位於泰勒（Taylor）的工廠（SF2P）可能比英特爾更受青睞。報告指出：“對於尋求替代供應的客戶來說，三星泰勒工廠更有可能成為第一停靠港。”具體而言，高通和AMD最有可能考慮三星；而據此前討論，蘋果和博通則據報導正在考慮英特爾。不過，分析師也補充道，英特爾雖然有14A製程的故事潛力，但“仍有大量工作要做”。AI驅動長期增長預期上調，毛利率看高至56%儘管短期面臨產能調配的挑戰，但AI帶來的長期增長紅利確定性極高。台積電確認，預計AI相關增長將以更快的速度提升，2024年至2029年的復合年增長率（CAGR）預期從此前的40%中段上調至50%中高段（mid-to-high-50s）。受此驅動，台積電將公司的長期整體增長預測上調至25%的復合年增長率，長期毛利率目標也隨之上調至56%。德意志銀行認為，考慮到AI發展的最新動態以及台積電的定價行動，這些數字的上調“並不令人意外”。關於海外產能擴張，報告提到台積電亞利桑那工廠目前處於低產量階段（一期4nm，月產能2萬片），預計今年年底二期將產生首筆3nm收入。儘管海外建廠會帶來2-4%的毛利率稀釋，且面臨人才、基礎設施和良率等挑戰，但市場重心目前仍聚焦於其核心的盈利能力。基於更高的晶圓定價帶來的盈利能力提升，德意志銀行將台積電（2330.TW）的目標價上調10%至2200新台幣。這一目標價相當於2027年預期每股收益（EPS）的20倍市盈率，與同行水平一致。分析師Robert Sanders表示，這一估值反映了台積電在2028年之前的穩固地位和強勁增長率。然而，報告也提示了潛在風險，包括地緣政治風險以及英特爾試圖將生產收回內部帶來的潛在阻力等。此外，如果AI相關支出突然放緩，或者CoWoS產能提升執行不力，也將構成風險。 (invest wallstreet)

攸關英特爾（Intel ）生死關鍵的18A製程，不僅傳出客戶只有自己而已，市場最新調查指出，英特爾自家新產品用采18A製程生產，結果跑分還跑輸上一代用台積電3奈米生產的產品，被業界認為「英特爾麻煩大了」，也印證台積電總裁魏哲家去年就早預言，台積電3奈米效能比英特爾18A好。消費者新聞與商業頻道（CNBC）上周五 （19 日） 報導，英特爾在亞利桑那州的新晶圓廠Fab52 已開始量產18A製程晶片，希望藉此追上台積電，但目前唯一的客戶就是英特爾自家產品，能否說服其他大廠下單代工，將關鍵英特爾這家晶片龍頭能否翻身。英特爾18A製程相近於台積電的2奈米製程，不僅傳出客戶只有自己而已，市場調查Techbang指出，英特爾新一代Panther Lake處理器（酷睿Ultra 300系列）最近測試動作頻頻，但最新的跑分結果可能會讓不少粉絲大失所望。 根據Geekbench流出的資料，這款代號酷睿Ultra 7 365的新晶片，在單核與多核效能上，竟然都輸給現有的Ultra 7 268V。測試資料顯示，Ultra 7 365的單核得分為2451、多核9714，前一代的Ultra 7 268V，平均跑分有2639與10318，顯示新晶片效能不增反減，縮水約6%到7%。 兩者都是4個效能核心加4個低功耗節能核心的配置，但Ultra 7 365目前的時脈最高只到4.7GHz，比起前代的5.0GHz矮一截。 正式版上市的測試結果是否如工程樣品跑分，則還待觀察。半導體業界指出，英特爾核心處理器代號Panther Lake（包含 Ultra 7 365），被英特爾視為「重返榮耀」之作，運算晶片（Compute Tile）由英特爾采最先進的18A 製程生產。 相較目前Ultra 200 系列核心產品Lunar Lake / Arrow Lake，運算晶片由台積電採用3奈米製程生產，因當時英特爾自家的20A 製程良率不如預期，為了搶市佔率，決定將核心運算晶圓外包給台積電。魏哲家去年年初就曾對外資法人表示，台積電的3奈米製程優於英特爾的18A製程，他自信地說，台積電3奈米性能、能耗和可靠度都勝一籌，不只好看、好名聲，還很實用，技術持續領先。 他並強調台積電與客戶的緊密合作，專注製造不與客戶競爭，唯有讓客戶成功，台積電才能成功。英特爾的18A工藝採用High-NA EUV與背部供電新技術。 業界認為，英特爾現在最重要的是18A製程，已經在內部晶圓廠跑了兩年了，即使前陣子延攬從台積電前資深副總羅唯仁也無濟於事，因整個製程的架構已確定，18A若良率起不來，英特爾後面的技術也不可能再發展了。 (大話晶片)

台積電美國亞利桑那州Fab 21廠區今日宣佈，首批3nm製程裝置已提前兩個月開始搬入，比原定「2026年Q2裝機」時間表顯著提速。公司規劃2027年上半年實現量產，每月產能約3萬片12吋晶圓，屆時將為蘋果A20/A20 Pro、輝達下一代AI GPU「Rubin」以及AMD Zen 6c等提供美國本土製造的全球最尖端晶片。這也是台積電首次將量產級3nm（N3E）節點帶出台灣，被視為美國《晶片與科學法案》落地後最具指標意義的里程碑。根據供應鏈透露，台積電此次共向ASML、應用材料、東京電子等發出60台3nm級裝置訂單，包括4台0.33 NA EUV、2台新一代High-NA EUV原型機，以及用於GAA電晶體環繞柵刻蝕的原子層沉積系統，裝置總價值逾120億美元。為搶時間，美方特許台積電裝置走“綠色通關”，從加州長灘港卸貨後全程冷鏈陸運，48小時內運抵鳳凰城無塵室，較常規物流周期縮短一周。Fab 21第一期原規劃只建4nm，2024年台積電董事會決定“直接上3nm”，追加投資80億美元，總資本支出提升至280億美元。公司官方表示，良率目標與台灣南科Fab 18B同步，2027年Q1風險試產時即要求晶片級良率≥70%，Q2正式量產爬坡至90%以上。蘋果已鎖定首批1.8萬片月產能，用於2027年秋季發表的iPhone 19系列A20應用處理器；輝達亦預留5000片產能，計畫將Rubin GPU的HBM3E封裝放在同一廠區完成，縮短供應鏈至兩周內交付。對於美國半導體生態而言，3nm本土流片意味著「最先進封裝」隨之落地。台積電同步在亞利桑拉州建設SoIC-P與CoWoS-L產線，預計2027年Q3月產5000片3D堆疊封裝，對應AI GPU算力卡約50萬顆。美國商務部已承諾提供45億美元聯邦補貼，用於分攤裝置折舊與人才培訓；亞利桑那州政府再加碼3.5億美元基礎建設補貼，並承諾在鳳凰城技術學院開設“3nm技師專班”，四年內培養1200名高級操作員。中國大陸晶圓廠亦緊盯台積電美國節點節奏。中芯國際南方廠內部技術高層向記者分析，3nm GAA電晶體結構對EDA、IP、材料要求極高，「台積電把整條生態搬到美國，等於把3nm技術窗口再鎖三年」。國內目前量產節點停留在7nm，若要追趕3nm，不僅需突破GAA環繞柵與High-NA EUV雙重門檻，還要自建3D封裝與矽鍺外延供應鏈，技術差距可能從兩年擴大至三年半。不過，台積電赴美也面臨成本與人才挑戰。美方無塵室人力成本比台灣高55%，加上夜班限制與工會法規，Fab 21量產初期單位成本估計比台灣高出30%。台積電為此匯入「5D自動化」系統：利用AI視覺+機器人搬運，把潔淨室人力密度降至台灣廠的60%，目標2028年將成本差距縮小到10%以內。隨著裝置搬入序幕拉開，美國白宮國家經濟委員會發表聲明稱，這是“美國半導體史上最昂貴、最先進的一台發動機”，將直接創造6000個高薪崗位，並撬動上下游千億美元投資。對於全球晶片格局而言，當3nm晶圓可以在亞利桑那沙漠​​下線，台積電「台灣-美國-日本」三大基地連線正式成型，先進製程「去美國化」時代宣告終結，而圍繞3nm及以下節點的產能、裝置與材料競爭，也將進入多極混戰的新賽段。 （晶片產業）

當各類AI產品掀起新一輪算力競賽，當新能源汽車的智能座艙流暢響應每個指令，背後支撐這些科技奇蹟的，正是半導體材料的持續突破。從矽基到化合物，從三維到二維，材料的每一次迭代都在重塑晶片產業的遊戲規則——新材料如何改寫產業版圖？2025 年全球半導體材料市場迎來結構性增長，規模預計達 780 億美元，同比增長 8.5%，其中中國市場以 1920 億元人民幣（約 270 億美元）規模佔據全球 34.6%份額，首次超越台灣成為全球第一大市場。這一格局重構源於兩大驅動力：一是中國大陸 300mm 晶圓廠產能達每月 400 萬片（8 英吋當量），佔全球 34.4%；二是 AI 晶片需求爆發推動先進製程材料採購量激增，7nm 及以下製程材料市場規模同比增長 22%，佔整體市場的 42%。產業鏈呈現"三極分化"特徵：上游原材料領域，日本信越化學（矽烷氣體全球市佔率 45%）、美國查爾斯河實驗室（超高純試劑市佔率 38%）仍壟斷核心環節；中游材料製造環節，中國在矽片（滬矽產業全球市佔率 5%）、電子特氣（華特氣體全球市佔率 7%）等領域實現突破；下游應用端，台積電 CoWoS 封裝產能擴張帶動先進封裝材料需求增長 34%，國內長電科技的 SiP 封裝材料採購量同比提升 52%。2025 年成為中國半導體材料國產替代的關鍵轉折點，技術創新呈現三大方向：先進製程適配方面，中微公司開發的原子層沉積（ALD）裝置配套材料，滿足 3nm 製程 High-NA 光刻膠需求；綠色製造領域，金宏氣體推出的電子級氨氣回收系統，使晶圓廠氣體利用率提升至 95%；材料復合化趨勢顯著，安集科技開發的奈米結構 CMP 拋光液，將 3D NAND 晶圓的拋光效率提升40%。(EDA365電子論壇)

亞馬遜網路服務 (AWS) 預覽其下一代 Trainium AI 加速器 Trainium3 至今已近一年。今天，這款晶片正式面世。在 AWS re:Invent 大會上，該公司宣佈 Amazon EC2 Trn3 UltraServer 正式上線，這是首批基於這款新晶片建構的系統，並作為其彈性計算雲 (EC2) 服務的一部分提供。Trainium3 由台積電採用 3 奈米工藝製造，單晶片可提供 2.52 PFLOPs 的 FP8 計算能力。該器件整合了 144 GB 的 HBM3e 視訊記憶體，提供 4.9 TB/s 的記憶體頻寬。AWS 向HPCwire表示，這些性能提升源於架構的改進，旨在平衡現代 AI 工作負載的計算、記憶體和資料傳輸。該公司表示，Trainium3 新增了對 FP32、BF16、MXFP8 和 MXFP4 的支援，並增強了對結構化稀疏性、微擴展、隨機舍入和集體通訊引擎的硬體支援。該公司稱，這些新增功能旨在使晶片更好地適應 LLM、混合專家架構和多模態系統的訓練模式。這些改進概述了晶片層面的新特性，但AWS表示，真正的規模優勢在於Trainium3的部署方式。該公司指出，許多最大的性能和效率提升都體現在UltraServer層面，因為新的架構、記憶體拓撲和整合引擎在數百個晶片上運行。在系統層面，一個完全配置的Trainium3 UltraServer連接144個晶片，聚合了362 FP8 PFLOPs的計算能力、20.7 TB的封裝內HBM3e記憶體以及706 TB/s的記憶體頻寬。據AWS稱，與上一代基於Trainium2的架構相比，該系統可提供高達4.4倍的計算性能提升、4倍的能效提升以及近4倍的記憶體頻寬提升。這些資料基於AWS在其發佈博文中分享的內部測量結果。AWS 向HPCwire透露，Trainium3 引入了 NeuronSwitch-v1，這是一種全新的全連接架構，可在單個 UltraServer 中連接多達 144 個晶片，並將晶片間頻寬提升至 Trn2 UltraServer 的兩倍。該公司還重點介紹了其網路堆疊的改進：升級後的 Neuron Fabric 將晶片間通訊延遲降低至“略低於 10 微秒”，而 EC2 UltraClusters 3.0 則提供多拍位元網路，以支援跨越“數十萬個 Trainium 晶片”的大型分佈式訓練作業。AWS 表示，UltraServer 層面更高的記憶體容量、更快的架構以及改進的協同引擎相結合，旨在減少大型 Transformer 和 MoE 模型（尤其是具有更長上下文窗口或多模態元件的模型）中的資料傳輸瓶頸。在對 OpenAI 的開源權重模型 GPT-OSS 進行的內部測試中，AWS 報告稱，與上一代 UltraServer 相比，每個晶片的吞吐量提高了 3 倍，推理響應時間提高了 4 倍，這表明該公司正在利用系統級的性能提升，使 Trainium3 能夠勝任數兆參數的訓練和大規模推理任務。AWS 表示，客戶已經開始使用 Trainium3 來降低訓練成本，Anthropic、Metagenomi和 Neto.ai等公司報告稱，與替代方案相比，成本最多可降低 50%。AWS 還指出，Amazon Bedrock 已經在 Trainium3 上運行生產工作負載，這表明該晶片已準備好進行企業級部署。早期採用者也在積極探索新的應用領域：據 AWS 稱，人工智慧視訊初創公司 Decart 正在使用 Trainium3 進行即時生成視訊，並以 GPU 一半的成本實現了 4 倍的幀生成速度。AWS 已著手研發下一代定製晶片。該公司表示，Trainium4 旨在顯著提升計算、記憶體和互連性能，包括至少 6 倍的 FP4 吞吐量、3 倍的 FP8 性能以及 4 倍的記憶體頻寬。AWS 將 FP8 性能的提升描述為“基礎性飛躍”，這將使企業能夠以至少三倍的速度訓練模型或處理三倍數量的推理請求，並且預計通過持續的軟體和工作負載最佳化，性能還將進一步提升。為了支援更大規模的模型和更高的節點級擴展性，AWS 表示 Trainium4 還將整合輝達的 NVLink Fusion 互連技術。其目標是使 Trainium4、Graviton 和 Elastic Fabric Adapter 能夠在通用的基於 MGX 的機架中互操作，從而建立一個靈活的機架級設計，既可以託管 GPU 伺服器，也可以託管 Trainium 系統。隨著 Trainium3 投入生產，Trainium4 也即將面世，AWS 似乎正在為未來做好準備。未來，人工智慧訓練的真正瓶頸將不再在於加速器本身，而在於連接它們的網路和系統設計。AWS 能否有效執行這一路線圖，將決定其在建構前沿規模人工智慧基礎設施的持續競爭中的地位。NVIDIA NVLink Fusion 被選中用於未來的 AWS Trainium4 部署今天，NVIDIA 和 AWS 宣佈建立多代合作夥伴關係，將 NVLink Fusion 晶片整合到未來的 AWS AI 機架和晶片設計中。AWS 在 2015 年收購 Annapurna Labs 後，開始自主設計 Graviton CPU、Nitro 網路卡和 AI 加速器。因此，AWS 的技術堆疊並非 NVIDIA 的技術堆疊，儘管它也採購了大量 NVIDIA GPU。未來，AWS 計畫將 NVIDIA 的技術整合到其定製的晶片棧中，這意義重大。NVLink Fusion 背後的理念是，NVIDIA 可以銷售一個 IP 模組，使其他晶片能夠使用 NVIDIA NVLink 進行通訊。NVIDIA宣佈了一系列合作夥伴，而Arm等其他公司最近也加入了進來。從新聞稿中我們可以看出，“AWS 正在設計 Trainium4，使其能夠與 NVLink 6 和 NVIDIA MGX 機架架構整合，這是 NVIDIA 和 AWS 在 NVLink Fusion 領域開展的多代合作的首個成果。”這對兩家公司來說都是一筆划算的交易。AWS 可以將與 NVIDIA NVL72 機架類似的機架架構用於其定製晶片項目。對輝達而言，這項技術正被融入到一項超大規模的定製晶片項目中。它有機會將NVLink Fusion Chiplet和NVLink交換機銷售到那些非輝達的CPU/GPU/NIC晶片機架中。或許最有趣的是，AWS在推進Trainium未來版本開發的同時，決定採用NVIDIA NVLink技術，而不是自行建構通訊協議、交換機以及機架基礎設施。此外，值得注意的是，AWS採用NVLink意味著它不會在其機架內擴展計算鏈路中使用Broadcom Tomahawk Ultra或其他基於乙太網路的交換機晶片，因為將兩種技術用於同一用途顯得不合常理。 (半導體行業觀察)

年底，AI晶片領域的競爭愈發激烈。繼11月，Google發佈自研TPU，引發市場廣泛關注，輝達隨即入股新思科技加碼推廣自身GPU後，亞馬遜剛發佈的新產品，也很有可能成為攪動市場的另一極。美國時間12月2日，在拉斯維加斯舉辦的亞馬遜雲科技re:Invent全球大會上，亞馬遜正式推出了新一代自研AI晶片Trainium 3。這是亞馬遜首款3nm製程的AI晶片，由台積電代工生產。圖片來源：unsplash根據亞馬遜AWS首席執行官馬特·加曼（Matt Garman）的介紹，Trainium 3的計算能力較之Trainium 2大幅提升，是在當前的人工智慧浪潮中，專為滿足下一代生成式AI工作負載的高性能需求而設計打造的，能夠幫助客戶更快地建立更大的模型，並在部署模型時提供卓越的效能。AWS方面同時拿出了整合144顆新一代晶片的Trainium3 UltraServer伺服器。該公司給出的資料顯示，新伺服器的計算能力是上一代產品的4.4倍，記憶體頻寬是上一代產品的4倍，能夠將能效提升40%，同時大幅提高了產品部署能力上限，通過伺服器之間的互聯互通，最多能部署多達百萬顆Trainium 3晶片，將此前的天花板提高了10倍。從AWS披露的資料來看，Trainium 3的產品性能是更新換代等級的存在，但市場更關注的，還是其與佔據絕對主導地位的輝達和正在崛起的Google之間的比較。不過，AWS方面拒絕直接就其新一代晶片的性能與輝達、Google進行對比，沒有提供太多相關資訊。Barron's等提到，從記憶體來看，每顆Trainium 3整合了144GB高頻寬記憶體，而Google最新TPU是192GB，輝達最新的Blackwell GB30更是高達288GB，同時，性能更強的輝達超級新品Rubin也即將走向市場。從這方面來看，目前幾大巨頭之間的晶片在性能上仍有明顯差距。科技媒體IMPLICATOR.ai撰文指出，與輝達的GPU不同，亞馬遜的Trainium晶片是專為在AWS雲服務中訓練和運行大模型而設計的定製化AI晶片，會針對AWS的雲基礎設施和Bedrock平台進行針對性最佳化。AWS也在官方新聞中，著重強調了專用晶片的“性價比優勢”，稱與同等GPU系統相比，Trainium在相關場景中可以將訓練和推理成本降低50%。實際上，Google的TPU是專為加速機器學習和深度學習任務而設計的。輝達在這些競爭者冒頭時曾發聲表示，公司的產品領先業界一代，是唯一能夠運行所有AI模型並應用於計算場景的平台。與專為特定AI框架或功能設計的產品相比，輝達晶片提供了更高的性能、多功能性和可互換性。就在亞馬遜發佈新品的同一時間，輝達首席財務官科萊特·克雷斯（Colette Kress）在瑞銀全球技術與AI大會上表示，其他晶片競品絕無可能動搖輝達的地位。她還表示，輝達的護城河不只晶片，而是標準和生態，所有模型都運行在輝達的平台上，市場地位非常穩固。不過，相較於競爭關係，亞馬遜與輝達的合作同樣值得關注。大會期間，AWS與輝達共同宣佈，前者將在下一代晶片Trainium 4中使用後者的NVLink Fusion技術。該技術能夠實現不同類型晶片之間的高速連接，以及不同伺服器之間的快速通訊。晶片領域的頭部企業英特爾、高通都是使用者。通過引入該技術，AWS得以建構規模更大、適用性更強的AI伺服器，進一步提高互聯互通能力，再次推高部署能力的上限，幫助客戶更好地訓練大模型。IMPLICATOR.ai的文章分析稱，相較於“打不過就加入”，AWS引入輝達技術更類似一種引流策略，在無法快速實現晶片替代的情況下，這種合作能夠幫助那些依賴輝達工作負載的企業更輕鬆地逐步遷移到Trainium基礎設施中。輝達CEO黃仁勳則表示，輝達和AWS將攜手打造AI產業革命的計算架構，加速世界邁向智能化的道路。令人好奇的是，誰成為亞馬遜新AI晶片第一批擁躉？亞馬遜強調，新一代的晶片和伺服器都是為了讓雲服務客戶能以更低成本享受更好的服務，訓練出質量更高的大模型來實現自身的AI雄心。事實上，除了自用外，Trainium 3目前的市場前景仍然成疑。以往，Trainium的主要客戶是Anthropic、理光（Ricoh）等公司，使用者基礎本就不多。其中，Anthropic一直是最大客戶。實際上，AWS方面此前就曾表示，計畫在今年底之前向Anthropic提供100萬個Trainium晶片。摩根大通分析師道格・安穆斯（Doug Anmuth）稱，考慮到亞馬遜對Anthropic的投資及兩者歷來的緊密關係，Trainium最新晶片預計仍會首先供應這家打造出了Claude的公司。未來，只要電力等供應充足，AWS可以在新的伺服器上複製為Anthropic打造的架構，吸引其他大型客戶，讓自己的晶片被更廣泛地使用。不過，就算是Anthropic，這家公司對晶片也有多種選擇。除了輝達的主流產品，該公司去年還曾表示與Google達成協議，將採購後者100萬顆TPU晶片。另外，在今年的re:Invent大會中，AWS還發佈了包括推理模型、語音模型、純文字模型在內的Nova 2系列模型，並推出了“開放式訓練”服務Nova Forge，允許使用者在訓練的各階段注入自己的資料，支援更多行業為特定知識定製大模型，同時通過Nova Act進軍代理服務市場，幫助使用者建構自動化網頁操作智能體。從基礎設施、自研晶片，再到大模型、代理服務，這家雲服務巨頭已癒發凸顯出全面押注AI垂直一體化的趨勢。而資本市場還無法明確判斷該公司相關戰略的前景。12月2日亞馬遜股價收盤微漲0.23%，今年以來漲幅為6.85%，在“美股科技七巨頭”中與特斯拉相近，低於其他公司。 （鈦媒體AGI）