今天,一年一度的AMD Advancing AI (以下簡稱AAI)大會在舊金山隆重舉行。在會議開始的時候,AMD董事會主席及首席執行長CEO蘇姿丰(Lisa Su)博士發表了重要演講。
“人工智慧是近50年來最重要的技術。”蘇姿丰在演講開頭首先強調,她同時指出,人工智慧的發展速度之快,前所未見。儘管仍處於發展初期人工智慧已經開始改變各行各業。
按照蘇姿丰在會上所說,模型性能的提升顯著,群毆提升速度也超過了硬體性能的提升速度。與此同時,AI行業還呈現另一個特徵,那就是用於推理的AI計算能力超過用於訓練的計算能力。而且,計算需求正以驚人的速度增長,智能體人工智慧需要的計算資源遠比早期的AI聊天機器人要多得多。
AMD預計,到2030年,人工智慧加速器市場的潛在市場規模將達到1.4兆美元,這將與目前整個晶片市場的規模相當。當中,有不少貢獻是來自GPU,因為很多任務還是需要GPU完成。但正如蘇姿丰所說,CPU也必不可少,因為除了需要協助GPU外,智能體AI還需要大量的CPU來實際處理智能體正在運行的任務。這也是AMD認為CPU市場在2030年將達到2300億美元的原因。
有見及此,通過在晶片、軟體和系統等各方面投入,AMD正在致力於將人工智慧融入到各個領域。簡而言之,AMD希望通過領先的計算產品和開放平台賦能人工智慧,讓人工智慧無處不在。
在本屆大會上,AMD也帶來了豐富的軟硬體產品展示,當中包括了CPU、GPU和DPU、嵌入式處理器,Helios機架以及軟體產品。
2奈米 CPU,正式登場
在本次發佈的產品中,最引人矚目的無疑就是AMD面向Agentic資料中心的EPYC伺服器CPU以及公司引用前沿AI、HPC需求而推出的MI400系列GPU。首先看EPYC CPU方面,如圖所示,自2018年至今,AMD已經推出了五代CPU產品。
憑藉領先的性能和功耗表現,AMD這些伺服器CPU已經獲得了客戶的高度認可。據AMD介紹,大多數《財富》100 強企業已經將資料中心託付給 AMD EPYC 處理器。具體到每一周,也至少有一家“福布斯全球企業2000強”公司轉用AMD。由此可見AMD EPYC的勢頭。
統計顯示,AMD EPYC CPU的營收市佔也高達46%,對於一家十年前市佔接近0的企業來說,AMD的這次捲土重來,充滿著英雄主義般的逆襲風采。在此期間,市場對CPU的需求也產生了悄然變化。
眾所周知,過去幾年,資料中心的一大特徵是伺服器正從傳統架構走向AI時代。而具體到大模型崛起的短短幾年裡,AI伺服器也從一開始支援ChatBot這樣的應用,到現今進入Agentic AI的時代。這種轉變一方面給CPU帶來更多的需求(AI伺服器中CPU和GPU的的比例從ChatBot時代的1:4上升到Agentic AI時代1:1);與此同時,客戶對CPU的需求也產生了新的變化。
據AMD所說,資料中心的形態正向“三層智能體架構”轉變,每一層都對 CPU 提出了獨特的需求。其中,支撐智能體工作流程與現代企業基礎設施的核心 CPU 任務包括:智能體沙箱執行、AI 主機節點以及通用伺服器。智能體沙箱(Agent Sandbox)的 CPU 負責運行與協調智能體、執行生成的程式碼及任務、管理記憶體與系統狀態,並處理 GPU 以外的 I/O 操作;AI 主機節點的 CPU 則負責向 AI 基礎設施(例如 AMD Helios™ 機架級解決方案)中的各 GPU 提供資料。最後,通用 CPU 負責運行日常關鍵業務應用,涵蓋資料庫、記憶體、應用服務以及支援 AI 的工作負載。
有見及此,AMD 帶來第六代EPYC處理器“Venice”及EPYC 9006 系列伺服器 CPU,為智能體 AI(Agentic AI)、雲服務、通用計算及高性能計算(HPC)提供了針對工作負載最佳化的解決方案組合。針對智能體 AI,該系列處理器涵蓋了智能體工作流程中三個關鍵的 CPU 任務:運行智能體、為加速器提供資料(feeding accelerators)以及支撐智能體所使用的企業級服務。
據介紹,作為首批使用台積電2nm工藝打造的高性能處理器,該系列CPU擁有高達 256 個Zen 6c核心和 512 個線程,配備八個大型計算晶片和兩個更大的 I/O 晶片。可以看到,這八個大型計算晶片中的每一個都包含 32 個核心,分為兩個 16 核心複合體。中間的 I/O 晶片尺寸巨大,整合了 PCIe 6.0、UCIE、DDR5 等眾多控製器。
作為一系列針對“智能體 AI”(agentic AI)打造的最廣泛伺服器 CPU 產品組合。如圖所示,Venice涵蓋了各類型的產品,能為各類任務匹配最合適的處理器。得益於這些領先的配置,AMD Venice處理器在與輝達最近大肆宣傳的Vera系列相比不落下風。
與Arm AGI和Intel最新產品相比時,AMD的全新處理器在吞吐量和單核性能上也都兩天於這些競爭對手。
來到雲原生性能表現方面,AMD的處理器也讓AWS和Intel的晶片相形見絀。
在HPC性能方面,也領先於英特爾。從下圖可以看到AMD EPYC的未來幾年路線圖。
2奈米GPU,同步亮相
除了Venice CPU以外,AMD在本屆的AAI大會上也帶來了全新一代的GPU MI400系列展示。
據介紹,融合了業界領先的計算與網路性能、高頻寬 HBM4 記憶體、先進的安全特性以及可擴展的系統架構的MI400 系列包括了面向前沿 AI 和 AI 工廠部署的 AMD Instinct MI455X GPU以及面向HPC 領域的 AMD Instinct MI430X GPU等幾款產品。
尤其是MI455X,更是AMD這次峰會的重中之重。
據介紹,該產品在計算性能、視訊記憶體容量、視訊記憶體頻寬、可擴展性及能效方面實現了顯著提升,從而支援了許多競爭方案難以企及的新型工作負載,包括前沿 AI 訓練、大規模推理以及大規模智能體(Agentic)AI。具體而言,如圖所示,這系列基於CDNA 5設計的GPU同樣採用2nm工藝製造,搭載了432 GB的HBM4,容量領先於業界競爭對手,支援FP4\FP6和FP8,具備3200億電晶體。在於AMD上一代產品相比時,MI455X 在多項性能上實現了大幅度領先。
按照AMD所說,之所以能獲得這樣的領先表現,主要得益於七項關鍵架構創新及 CoWoS-L 先進封裝技術:
首先,AMD Instinct MI455X GPU 提供了遠超以往 AMD GPU 的 AI 計算性能。在 Open Compute Project(開放計算項目)的微縮放(microscaling)MXFP4 和 MXFP8 資料格式下,其峰值 FLOPS 達到 Instinct MI355X 的 4 倍。這種增強的計算能力旨在實現高推理吞吐量、支援大批次(large batch sizes)、加速模型訓練,並在固定的基礎設施佔地範圍內最大化 AI 工廠的產出。
其次,AMD Instinct MI455X GPU 提高了計算資源的有效利用率。該 GPU 受益於基於客戶體驗及前四代 AMD CDNA 微架構反饋而進行的數十項內部改進。該架構支援靈活的資料格式,簡化了軟體開發流程,並實現了對計算、記憶體及網路資源的高效利用。
第三,記憶體子系統進行了大幅升級。每顆 AMD Instinct MI455X GPU 整合了 432 GB HBM4 記憶體,容量較 AMD Instinct MI355X 的 288 GB HBM3E 增加了 1.5 倍,同時峰值記憶體頻寬提升至約 2.9 倍。更大的快取、更高的快取頻寬以及全新的頻寬放大技術進一步提升了實際記憶體性能。這些進步支援了更大的模型、更長的上下文窗口、更高的使用者並行量以及單系統中更多的 AI 智能體,並減少了機架規模下的記憶體相關瓶頸。
第四,新款 GPU 顯著提升了“縱向擴展”(scale-up)頻寬——即用於將多個 GPU 組合成單個共用記憶體 Pod的頻寬。每個 AMD Instinct MI455X GPU 通過 36 條鏈路提供高達 3.6 TB/s 的低延遲縱向擴展頻寬。每條 UALoE(基於乙太網路的超高速加速器鏈路)鏈路利用兩條通道和 AMD Infinity Fabric 協議,可實現雙向各 400 Gbit/s 的傳輸速率。最多 72 個 AMD Instinct MI455X GPU 可組合成一個 Pod;這一重大改進不僅增加了單個工作負載可用的計算和記憶體資源,還降低了分佈式執行帶來的通訊開銷。
第五,AMD Instinct MI455X GPU 提供了大幅提升的“橫向擴展”(scale-out)頻寬。每個 AMD Instinct MI455X GPU 支援多達三個 AMD Pensando Vulcano 800 AI-NIC(AI 網路介面卡),從而為每個 GPU 提供 600 GB/s 的雙向橫向擴展頻寬,這一數值是 AMD Instinct MI355X GPU 的六倍。結合 AMD 的開放網路戰略及對行業標準乙太網路技術的支援,這種連接能力實現了從單機架到大型多機架 AI 叢集的高效擴展,同時保持了生態系統的靈活性,避免了被專有網路技術鎖定。
第六,AMD Instinct MI455X GPU 配備了專用的高速 AMD Infinity Fabric 介面,旨在增強 CPU 與 GPU 之間的通訊。該 GPU 是與 AMD EPYC 9006 SP7 伺服器 CPU 協同開發的。
該介面提供高達 256 GB/s 的雙向峰值傳輸速率,並賦予 CPU 對 GPU 視訊記憶體的快取一致性訪問能力。與前代架構相比,這實現了更大的視訊記憶體池和更高效的資料共享,並增強了對記憶體密集型 AI 工作負載的支援。
第七點,也是最後一點,是能效的提升。AMD Instinct MI455X GPU 的各個方面——從基礎電晶體到網路介面——均經過重新設計,旨在提高能效。其結果是整個平台能效的提升,使客戶能夠在既定的功耗範圍內部署更強大的計算能力。
上圖展示了 AMD Instinct MI455X GPU 各子系統的總體概念檢視。圖中左側顯示了通過 AMD Infinity Fabric 進行的 CPU-GPU 通訊以及通過 PCIe Gen 6 和 UALink 實現的橫向擴展(scale-out)介面,右側則顯示了 UALoE 縱向擴展(scale-up)通道。
來到MI430X方面,據介紹,該款GPU 在融合型 AI 和 HPC 工作負載中提供毫不妥協的精度與吞吐量,並具備高達 288 TFLOPS 的硬體級 FP64 科學計算性能。整個系列均採用業界領先的 HBM4 記憶體和高記憶體頻寬,助力客戶支援更大規模的模型、降低基礎設施複雜性並提升大規模部署下的效率。
根據AMD的規劃,如圖所示,公司將在2027年推出基於CDNA 6設計的MI500系列,並在2028年推出基於CDNA 7設計的MI 600系列。
Helios,終於來了
在AI發展的早些年,晶片廠商其實發佈的的就只是晶片。但後來,模型的參數規模和上下文長度持續增長,但晶片性能增長緩慢,這就意味著無論訓練和推理已經不再是單顆GPU、甚至單台伺服器能夠完成的任務,而是需要數十甚至上百顆GPU協同工作。
隨著GPU數量不斷增加,真正限制系統性能的,不再只是晶片本身的算力,而是GPU之間的資料交換效率、記憶體容量、網路頻寬、供電能力以及散熱能力。這進而趨勢AI基礎設施的競爭,從晶片競爭,逐步升級為系統競爭,最終演變為整機架(Rack-scale)乃至整個AI叢集的競爭。
正因如此,AMD在去年就預告了Helios機架。在今天的“Advancing AI 2026”大會上,AMD 正式發佈了將 AMD Instinct MI455X GPU、第六代 AMD EPYC 伺服器 CPU、AMD ROCm 軟體和 AMD Pensando 網路技術整合為統一的 AMD Helios 機架解決方案。
從外觀上看,AMD Helios並未採用傳統的 19 英吋機架,而是採用了 OCP(開放計算項目)全新的 Open Rack Wide (ORW) 規格——即寬 1.2 米、深 1.3 米的機櫃。該標準機櫃提供 44 OU 的機架空間。(OU 代表 Open Unit,即 OCP 定義的機架垂直高度計量單位,其高度為 48 毫米,而傳統的機架單元高度為 44.45 毫米。)
從設計上看,作為一套針對機架級 AI 基礎設施的開放且經過驗證的藍圖,AMD Helios結合了 72 顆 AMD Instinct MI455X GPU、AMD EPYC 9006 SP7 伺服器 CPU 以及 AMD Pensando 網路技術,為前沿 AI 工廠建構了堅實可靠的基礎。
得益於這樣的配置,AMD Helios能提供百億億次級(exaflop)的 AI 性能。單機架可提供高達 2.9 exaflops 的峰值 FP4 算力、1.4 exaflops 的峰值 FP8 算力、31 TB HBM4 記憶體以及 1.7 PB/s 的記憶體頻寬。
此外,據介紹,AMD Helios 還結合了用於高性能縱向擴展(scale-up)的 UALink™ over Ethernet (UALoE) 技術,以及符合 Ultra Ethernet Consortium(超乙太網路聯盟)標準的橫向擴展(scale-out)乙太網路技術,使客戶能夠利用開放的標準化技術建構 AI 基礎設施。該平台還整合了縱深防禦的機架級安全功能。
疊加AMD ROCm 軟體,AMD Helios提供了一個完整的 AI 平台,將晶片、網路、系統和軟體整合為統一的基礎設施,以支援前沿模型的訓練、微調及大規模推理任務。
AMD表示,Helios機架各方面領先於輝達Vera Rubin NVL72。
在性能方面,也領先於競爭對手。
正因為擁有如此多的優勢,據AMD透露,Helios已經獲得了openAI、Meta、Anphoropic、Mircosoft和Oracle等客戶的而採用。與此同時,公司還與生態合作夥伴建立合作關係,以推動這個機架盡快落地。
在AMD看來, Helios 既是一個可直接部署的機架級解決方案,也是一個藍圖.合作夥伴既可以採用它,也可以根據自身需求進行定製和擴展,同時還能充分利用 AMD 在可擴展 AI 系統工程方面的投入成果。在實現這一切的同時,該方案在系統整合、網路連線、管理以及針對特定部署場景的需求方面,依然保持了高度的靈活性。
面向物理AI的“芯”品
在AI市場,除了過去圍繞大模型、生成式AI和AI基礎設施展開的傳統敘事外,這兩年,一個新的關鍵詞開始頻繁出現在產業界——物理AI(Physical AI)。隨著AI從數字世界走向現實世界,機器人、自動駕駛、智能製造等應用不斷成熟,AI正在從“會思考”邁向“會行動”,也讓物理AI成為產業關注的新焦點。
如圖所示,這是一個潛力很大的市場。但考慮到物理AI在實際操作中基本都要歷經感知、推理、決定和行動四個環節,其帶來的技術挑戰是在所難免,這也正是Lisa 在此前的CES演講中曾強調“物理AI是技術領域最艱巨的挑戰之一,要實現這種智能,需要採用全端式方法”的原因之一。
在AMD看來,具備自主行動能力的物理AI需要不同的計算架構。於是,他們基於資深的技術積累,在本屆大會上帶來了AMD銳龍AI 嵌入式X100系列處理器。
據介紹,作為一系列旨在滿足“物理AI”(Physical AI)應用對卓越性能的需求。專為加速感知、推理及即時控制工作負載而設計的系列產品,AMD 銳龍 AI 嵌入式 X100系列處理器在單顆嵌入式 SoC 上整合了多達 16 個高性能 AMD“Zen 5”CPU 核心、獨立顯示卡級性能的整合 GPU 以及高能效 NPU。儘管各計算引擎均具備出色的獨立性能,但統一記憶體架構進一步加速了實際工作負載的處理,從而提升了系統的確定性並降低了延遲。
除了這些高性能的處理器,其記憶體容量和頻寬也是該系列處理器能夠在物理AI市場一展所長的關鍵。
AMD表示,在這些硬體支援下,X100系列處理器在 CPU、圖形和 AI 工作負載方面均提供領先的計算性能。與 Intel® Core Ultra Series 3 處理器相比,該系列處理器預計可實現高達 2.1 倍的多線程 CPU 性能(CoreMark®)(支援大規模並行),圖形性能提升 1.7 倍(OpenGL®)(帶來更具沉浸感的體驗),並將 Token 生成吞吐量提高 3.5 倍、首個 Token 生成時間(TTFT)縮短 1.4 倍,從而加速物理 AI 工作負載。
對於需要低功耗、小尺寸且具備強大訊號處理能力的應用,AMD銳龍AI 嵌入式 X100系列處理器表現卓越:其峰值 FP32 性能最高可達 Nvidia Jetson T5000 的 3 倍,從而實現更出色的訊號處理;而在針對先進醫用超聲波的波束成形等工作負載上,其性能平均比 Nvidia RTX™ 4000 Ada 等獨立 GPU 高出 1.7 倍。
AMD強調,銳龍AI 嵌入式 X100系列處理器基於開放式軟體棧建構——其中包括用於應用開發的 Linux、用於 iGPU 工作負載加速的 AMD ROCm™ 軟體棧、用於虛擬化的 Xen Hypervisor,以及 PyTorch、ONNX 和 TensorFlow 等行業標準 AI 框架——使開發人員能夠在熟悉的開發環境中快速建構應用。借助可將現有程式碼庫從 CUDA 遷移至 ROCm 的工具,開發人員既能獲得高性能與靈活性,又能避免受限於單一供應商。
而為了幫助開發人員和客戶針對下一代自主機器人及物理AI 系統進行原型設計、建構與快速部署。AMD還推出了AMD Kria™ AI 解決方案——一個搭載AMD 銳龍 AI 嵌入式 X100系列處理器的 AMD Kria AI 系統級模組(SOM)及機器人載板。據介紹,其統一的記憶體架構有助於減少跨CPU、GPU 、NPU和FPGA等計算域的顯式資料傳輸,而 CPU、圖形和 AI 計算引擎則支援即時決策與控制、AI 推理以及並行機器人工作負載。該產品不僅能實現確定性即時控制(每秒執行超過 8,000 次控制決策),還能同時提供響應時間低於 100 毫秒的視覺-語言-動作(VLA)AI 推理能力。
與Nvidia Jetson T5000 相比,該產品在機器人工作負載方面性能卓越:其即時控制可靠性提升高達3.4 倍,可用 CPU 核心數增加高達 1.6 倍(提供更多算力余量),並支援多達 2.3 倍的並行智能體(Agentic AI)數量。
與此同時,AMD還推出了首個面向自主機器人的開放式交鑰匙整合平台AMD Kria AI機器人開發平台。據介紹,這個融合了異構計算能力的方案將 AMD 在機器人領域的能力從“機器人本體”擴展至“機器人大腦”。在針對嚴苛的功耗、散熱及延遲要求進行最佳化的單一平台上,整合了 AI 感知、推理以及具備自主代理(agentic)特性的決策與控制功能。
AMD Kria AI解決方案還支援PyTorch、ONNX、ROS 2 和 MoveIt 等行業標準框架,並利用 AMD ROCm 軟體及 AMD 機器人軟體套件。AMD 開放式軟體棧支援從 CUDA 輕鬆遷移至 ROCm,使開發人員能夠保留平均 75% 的現有 CUDA 程式碼,並借助 AMD 開放且垂直整合的機器人軟體套件加速開發處理程序。基於開放標準建構的原始設計製造商(ODM)合作夥伴硬體平台,為從快速原型設計到生產部署提供了實現路徑。
“AMD Kria AI 機器人開發者平台旨在提供一條從開發到部署的可擴展路徑。這一面向智能自主機器人(agentic robotics)的全面整合平台包含 Kria AI SOM(系統級模組)及機器人載板、評估套件、機器人軟體套件以及經過驗證的參考設計。”AMD方面強調。
寫在最後
過去十年,AMD最成功的故事,是憑藉Zen架構重新奪回了CPU市場的話語權;而未來十年,AMD希望講述的,則是另一個故事——成為AI時代基礎設施的重要定義者。
回顧AMD近幾年的產品路線,可以發現一條十分清晰的發展軌跡。從CPU重新崛起,到GPU越追越近,再到Pensando網路、AMD自適應計算的雙劍齊發,AMD已經覆蓋CPU、GPU、DPU、軟體平台和機架級系統的完整佈局,公司也正在不斷拓寬自己的能力邊界,競爭的對象,也早已不再只是某一款處理器,而是整個AI計算平台。
正是這樣的佈局,讓AMD無論在大模型時代,還是在當前物理AI爆發,AI正在走向PC等端側之際,都能扮演重要的角色。
為此,筆者認為,站在這個新起點的AMD有望再度上演一段新的逆襲好戲,AMD的表現絕對值得我們期待。 (半導體行業觀察)
