多項性能超過輝達、英特爾、Arm平台。
芯東西7月23日聖何塞報導，剛剛，在年度AMD Advancing AI大會上，AMD董事長主席兼CEO蘇姿丰博士連放大招，發佈AMD最強AI晶片Instinct MI455X GPU、“最強智能體CPU”Venice、“最強機架級AI基礎設施”Heilos，還有一款專為機器人設計的Ryzen晶片。
今日AMD連宣7項重磅發佈：
- 最強機架級AI基礎設施Heilos
- 最強智能體伺服器CPU“Venice”
- Instinct MI400系列GPU（包括MI455X和MI430X）
- 風冷PCIe GPU MI350P
- AI軟體棧ROCm.ai
- 本地AI開發者平台“Gorgon Halo”
- Kria AI機器人系統模組&開發者平台
同時，蘇姿丰公佈了AMD GPU、CPU、機架級AI基礎設施的最新路線圖。
GPU產品中，MI500系列預計明年發佈，採用下一代HBM，支援更大的縱向擴展網路，並引入新的銅互連和光互連技術；MI600系列正在開發中，將於2028年發佈。
下一代MI500的推理吞吐量將飆升到MI300X的2000倍以上。
伺服器CPU中，今天發佈的第六代“Venice”是AMD首款2nm伺服器CPU，首用512線程和PCIe 6.0；第七代伺服器CPU“Florence”將採用新一代製程節點和記憶體，預計2028年出貨；第八代“Ravenna”正在開發中，預計2030年出貨。
機架AI基礎設施中，近三年路線圖如下：
- Helios今日發佈，採用“Venice” CPU、MI455X系列GPU、Pensando “Vulcano” AI NIC和“Salina” DPU。
- Helios 500明年問世，將採用“Verano” CPU、MI500系列GPU、Pensando “Como” AI NIC和“Monza” DPU。
- Helios 600計畫2028年出貨，將採用“Ferrara” CPU、MI600系列GPU、Pensando “Palma” AI NIC和“Levanzo” DPU。
GPU方面，MI455X採用台積電2nm和3nm工藝技術，基於CDNA 5架構，擁有3200億顆電晶體，採用Chiplet創新技術，將12個計算Chiplet及I/O Chiplet與432GB HBM4結合，並採用先進3D堆疊封裝技術。
Signal65近期發佈的一份獨立報告顯示，用多個主流開源模型做真實工作負載測試，上一代AMD MI355X GPU的吞吐量接近甚至超過輝達B200，且具備高性價比。
AMD還推出一張面向企業伺服器的風冷PCIe GPU——Instinct MI350P，擁有144GB HBM3E、約4TB/s視訊記憶體頻寬、PCIe 5.0×16，最高約600W，也可配置至約450W，單卡可支援最高約2600億參數規模的模型。
MI350P每美元每秒產生的Token數量是輝達RTX Pro 4000的4.2倍。
AMD內部重點測試了自主威脅檢測和運行個人智能體兩個場景，通過Token路由，一部分請求傳送給雲端前沿模型，另一部分則路由到運行在EPYC和MI350P上的開放權重模型，最終將Token成本降低約43%，本地運行工作負載的響應速度最高提高約3倍。
這種雲端前沿模型與企業本地模型結合的混合架構，將成為企業AI的重要部署方式。
機架AI基礎設施方面，AMD詳細對比了Helios與輝達Vera Rubin機架。Helios在FP4性能、FP8性能、HBM容量與頻寬、橫向擴展頻寬方面都更勝一籌。
這些是AMD在Helios上實測出的性能：HBM頻寬達20TB/s，FP4算力達20PFLOPS，單GPU縱向擴展頻寬為3.2TB/s，橫向擴展頻寬為190GB/s。
AMD高管稱，這些是“GPU廠商迄今公開過的最高實測數字”。
CPU方面，AMD將“Venice”跟本周剛披露的輝達Vera CPU性能資料作對比：“Venice”的吞吐性能達到Vera的2.2倍，每核性能在開箱狀態、還沒做性能調優的情況下就領先20%。
搭載“全球最強智能體CPU”的機架，自然也就是“全球最強智能體CPU機架”。
本地AI方面，AMD Ryzen AI Max 400系列的高端升級版“Gorgon Halo”，擁有192GB統一記憶體，本地可運行3000億參數級大模型。
物理AI方面，AMD發佈Ryzen AI Embedded X100系列處理器、Kira AI機器人開發者平台、Kria AI系統模組、Kria AI機器人軟體套件，並曬出機器人“朋友圈”。
AMD還強調了自家產品組合能把自主機器人從身到腦“承包”：
- Kira AI：機器人的“大腦”，負責高級感知和推理。
- Versal AI Edge：機器人的“脊柱”，負責高速資料與自適應計算。
- Zynq UltraScale+：機器人的“關節”和即時控制。
- Spartan UltraScale+：感測器連接與底層介面。
軟體方面，AMD發佈了ROCm.ai軟體棧，並放出跑MiniMax M3、DeepSeek-V4 Pro的演示視訊。
在這場發佈會中，我們看到很多中國合作夥伴和模型的名字。比如字節、騰訊、阿里、月之暗面、聯想等企業，以及MiniMax、DeepSeek、Kimi、Xiaomi MiMo、GLM、Qwen等模型。
有意思的是，除了發佈自家AI晶片外，AMD還在會上宣佈與憑藉造出全球最大晶片而聞名的美國AI晶片公司Cerebras Systems建立技術合作夥伴關係，共同推出一種全新的解耦式AI推理解決方案，將AMD Helios機架級解決方案與Cerebras晶圓級引擎相結合，預計這兩個計算引擎協同工作，每瓦每秒Token將提升到5倍。
Cerebras計畫在其資料中心部署AMD Helios系統，該聯合解決方案預計今年下半年通過Cerebras Cloud推出。
蘇姿丰說，去年AMD預測AI加速器市場到2028年將達到約5000億美元，但今天看來，它有些保守了。AMD現在預計，到2030年，AI加速器市場規模將達到約1.4兆美元（約合人民幣9.48兆元）。
這意味著到本十年末，屆時AI加速器市場的規模，將接近今天整個半導體市場的規模。
未來會出現多種不同類型的加速器。蘇姿丰預計GPU仍將佔據這個市場的絕大部分，因為AI演算法依然處於早期階段，工作負載還在快速變化，這種環境更有利於具備可程式設計性的GPU及其軟體生態。
會後，蘇姿丰及多位AMD高管接受智東西等全球媒體提問。蘇姿丰談道，AMD在伺服器CPU領域擁有無可爭議的領先地位，正在為未來AI計算需求鋪設自己的道路，從MI450到MI500將是重大躍遷。
AMD認為自己的市場機會到2030年可以達到約2兆美元（約合人民幣13.54億元），希望在所參與的細分市場中實現快於市場的增長。
01. MI455X GPU：2nm製程+HBM4視訊記憶體，AI算力達40PFLOPS
AMD Instinct MI455X GPU是AMD迄今最先進的AI晶片，也是全球首款2nm GPU晶片。
MI455X基於新一代AMD CDNA 5架構，擁有3200億顆電晶體，最高配備432GB HBM4視訊記憶體，支援FP4、FP6、FP8等AI資料格式。
該GPU採用Chiplet設計，其中計算Chiplet採用台積電2nm製程工藝，其他Chiplet採用不同工藝。
與上一代MI355X相比，MI455X實現了代際跨越：
- 432GB HBM4視訊記憶體，比當前競品先進方案高50%。
- 理論視訊記憶體頻寬最高23.3TB/s，提升至上一代的2.9倍。
- MXFP8峰值浮點算力達20PFLOPS，是上一代的4倍。
- MXFP4峰值浮點算力達40PFLOPS，是上一代的4倍。
跑DeepSeek-V3模型時，MI455X的Token吞吐量最高可達到MI355X的34倍，每Token成本最高可降低至原來的1/18。
MI455X的GPU創新主要集中在計算、快取與記憶體系統、實際工作負載效率。
相較MI300/MI350系列，MI400系列的內部架構有些調整，在這一代計算架構中改用WGP（Workgroup Processor，工作組處理器）作為核心計算組織單位，而沒有沿用計算單元（Compute Unit）的表述。
XCD（Accelerator Complex Die）包含WGP。每個XCD有2個Shader Engine，2個Shader Engine被封裝在一個計算Chiplet中。每個Shader Engine物理實現17個WGP，其中啟用16個，另一個用於提高製造良率。
每顆GPU具有兩個全域L2快取，每個容量為96MB。
MI455X與MI355X的一項重要區別是，L2快取由多個計算Chiplet共享，每組8個Shader Engine共享一個全域L2。而在MI300/MI350系列中，每個Chiplet擁有自己的L2快取。
因此，新一代重新劃分了不同裸片之間的邏輯功能。兩個L2快取通過AMD Infinity Fabric連接並保持一致性。HBM4位於Infinity Fabric另一側，兩個L2均可訪問整個視訊記憶體空間。Infinity Fabric還把GPU核心與視訊記憶體系統連接到縱向擴展域內的其他GPU，以及橫向擴展網路。
邏輯重新劃分也對應新的Chiplet劃分方式。
L2快取被移到FCD，即Fabric and Cache Die（Fabric與快取裸片）。FCD位於XCD下方，構成3D堆疊結構。每個FCD包含一個96MB L2快取，對應6組HBM4介面，與8個Shader Engine相連的邏輯。
整顆GPU包含2個FCD，通過中央Infinity Fabric鏈路連接，晶片兩端還配置I/O Die。
XCD採用台積電N2工藝，FCD和IOD則採用適合快取與I/O的其他先進工藝，封裝周圍有12組HBM4。
在封裝層面，MI455X使用有機基板和台積電CoWoS-L 2.5D封裝。
與MI300/MI350系列改採用的基於大型矽中介層的CoWoS-S不同，CoWoS-L在有機基板中嵌入局部矽橋。這種封裝方式能夠支援比MI355X更大的GPU模組。
XCD通過AMD此前幾代已使用的3D混合鍵合技術堆疊在FCD上，形成SoIC模組。HBM4和I/O Die再通過CoWoS-L與這些模組互連。
這種組合使AMD可以針對架構拆分後的不同部分，選擇合適的互連方式：
- XCD與L2之間需要極高頻寬和極低時延，因此採用3D互連。
- 其他對時延容忍度更高的連接採用2.5D橫向互連。
計算方面的變化包括：
- MI455X是首款以Wave32為主要執行模式設計的Instinct GPU，並取消了對Wave64的支援，可降低指令延遲，減少分支發散懲罰，降低暫存器壓力。
- 新增MXFP8、MXFP6、MXFP4支援，還有支援更細粒度縮放因子的MXFP4量化。
- 新增tanh指令，把MI355X已有超越函數的吞吐提高1倍。
- MI455X與MI355X都啟用256個WGP的架構，因此總體吞吐提升主要來自單個WGP能力的提高，MXFP8和MXFP4的計算吞吐量最高是MI355X的4倍，MXFP6的計算吞吐量最高是MI355X的2倍。
快取與記憶體層級方面，MI355X使用HBM3E，並在視訊記憶體與L2之間設定Infinity Cache。MI455X升級至432GB HBM4，同時取消獨立Infinity Cache層，把容量和頻寬集中到更大的全域L2。
每個FCD上的單個L2，頻寬就達到MI355X整體Infinity Cache聚合頻寬的1.5倍；兩個L2合計則達到3倍。兩個L2各自快取整個GPU地址空間內的資料，並由Infinity Fabric保持一致性。
全域原子操作也被重新放回L2。系統範圍原子操作仍由Infinity Fabric支援；GPU裝置範圍內的原子操作則直接在L2中執行，吞吐顯著高於MI355X。
從L2到WGP的有效張量頻寬最高放大到4倍，單SIMD暫存器與每個WGP的LDS（Local Data Share）容量提高至2倍。單SIMD的VGPR（Vector General-Purpose Register）也擴展到2倍。
為了減少資料移動和提高利用率，AMD讓資料搬運與計算充分重疊，提高GEMM、Flash Attention和短Kernel等AI負載的實際利用率與交付性能。
- 通過TDM（Tensor Data Mover）讓資料在全域視訊記憶體與LDS之間直接非同步傳輸，減少暫存器中轉。
- 通過多個WGP組成叢集、資料組播和預取，降低重複記憶體訪問並隱藏延遲。
- 借助更靈活的屏障同步和更低的Kernel調度延遲，減少各執行階段的等待與空轉。
MI400系列重新設計了系統DMA。過去，軟體可見的DMA佇列與物理DMA引擎直接繫結。新架構將其分為DMA前端（軟體可見的邏輯介面）和DMA後端（瞭解GPU內部物理位置、視訊記憶體分佈和外部鏈路位置的執行引擎）。
軟體只需提交DMA工作項，不必理解虛擬地址如何對應到實體位址，也不必知道資料、引擎和縱向擴展鏈路在晶片上的物理位置。系統會把工作項拆分，並在多個DMA後端之間負載平衡。
MI455X支援與MI355X類似的NUMA和分區模式。整顆GPU可以作為一個大型NUMA域運行，對整個GPU進行細粒度地址交錯；也可以拆成兩個NUMA域，每個域主要使用自己的L2和相鄰HBM。
雙NUMA模式減少快取一致性壓力，使記憶體訪問更加本地化，從而提高效率。配合計算分區，軟體可以更有空間感知地調度任務和分配記憶體。
GPU也支援虛擬化，可劃分為1、2直至8個更小的邏輯GPU，並相應運行最多8個虛擬機器。虛擬機器之間的視訊記憶體隔離由GPU硬體負責，並不完全依賴NUMA劃分。
安全方面，MI400系列的安全體系以硬體加密信任根為基礎，搭配機密計算，同時提供強租戶隔離。
02. Helios：超過18000個GPU計算單元，每美元比輝達機架多生產30%的token
過去兩年，每月Token消耗量暴漲158倍。前沿AI需要一套開放的機架級藍圖。
對此AMD建構了一套完全整合的機架級解決方案：CPU負責系統編排，GPU負責AI計算，高速網路承擔無瓶頸通訊，ROCm軟體棧把各部分連接。
今天，AMD正式推出Helios機架級AI平台。
Helios基於開放標準設計，包含72張Instinct MI455X GPU和18張“Venice” CPU，通過Pensando網路技術擴展，並由ROCm開放原始碼軟體加速。
- 主機計算：“Venice” CPU，配備96個高頻核心、PCIe 6.0連接及1.6TB/s記憶體頻寬。
- AI加速：MI455X GPU，擁有40PFLOPS FP4峰值算力、432GB HBM4、19.6TB/s視訊記憶體頻寬。
- 縱向擴展網路：有6個專用交換托盤負責，通過Pensando DPU和基於乙太網路的UALink（UALoE）技術，可將72顆GPU連接成一個統一系統，合計提供260TB/s的縱向擴展頻寬。
- 橫向擴展網路：Pensando “Vulcano”AI NIC，單塊板最多可以配置6顆Vulcano器件，每個Helios計算托盤配置2塊相關網路板卡，並採用開放的Ultra Ethernet技術。
MI455X安裝在AMD稱為增強型加速器模組（Enhanced Accelerator Module，EAM）的生產模組上，並直接部署到Helios中。EAM不只包含GPU封裝，還在一個緊湊、可維護的模組中整合了GPU、HBM記憶體、供電系統、高速介面、系統管理、液冷冷板。
AMD稱Helios是“全球性能最高的機架級AI基礎設施解決方案”，整套機架可提供：
- 超過18000個CDNA 5 GPU計算單元。
- 超過4600個Zen 6 CPU核心。
- 72顆MI455X GPU。
- 2.9EFLOPS FP4峰值算力。
- 1.4EFLOPS FP8峰值算力。
- 31TB HBM4，1.7PB/s頻寬。
- 43TB/s橫向擴展頻寬，260TB/s縱向擴展頻寬。
這就是AMD認為大規模運行智能體AI所需要的系統能力。
相比輝達Vera Rubin NVL72解決方案，Helios的AI算力高出15%，HBM容量高出50%，橫向擴展頻寬高出50%。
這意味著Helios能為大模型提供更高性能，為長上下文提供更多記憶體容量，並擁有把系統擴展到數千個機架所需的頻寬。
在跑Kimi K2 Thinking模型時，Helios的吞吐量比輝達Vera Rubin方案高出10%~15%。
據AMD披露，相比輝達Vera Rubin NVL72，Helios每美元可多產生最多30%的Token。
Helios現已進入生產階段。AMD並不是直接把Helios作為一套整機產品出售，而是與合作夥伴協同，確保組成一套Helios機架所需的所有部件都能準備就緒，能夠確定性地向終端使用者交付。
OpenAI、Meta、Anthropic、微軟、Oracle都選用了Helios參考設計。三家頂尖大模型公司已承諾以吉瓦級規模部署Helios。
03. Venice CPU：實測打敗輝達、英特爾、Arm平台
隨著AI產業重心轉向推理，每Token成本變得極其重要，CPU正重新走到舞台中央。
在資料中心領域，AMD伺服器CPU的市場份額從2017年的大約0.2%，一路飆升到如今的46%。
回顧AMD歷代伺服器CPU，第一代是“Naples”，第二代“Rome”提升了線程密度，第三代“Milan”進一步建立了單核性能優勢，從第四代“Genoa”開始產品提供不同最佳化方向，繼而發展到“Turin”和“Venice”。
第六代“Venice”相比第一代實現了18倍的吞吐性能。
當前正在快速放量、進展良好的第五代AMD EPYC 9005（代號“Turin”），已展現出性能優勢：
- 在通用CPU伺服器場景中，性能最高可達相較88核輝達Vera的2.4倍。
- 作為強調峰值頻率的GPU服務區主機節點，性能比72核英特爾至強6960P方案提升28%。
- 在智能體CPU沙箱場景中，每瓦可承載的智能體數量是88核輝達Vera的2倍。
“Turin”不只面向AI或通用計算的處理器。
相比128核英特爾至強6980P，其SPEC CPU性能提升40%，企業級性能提升40%，HPC性能提升80%，基於CPU的AI性能提升70%。
第六代AMD EPYC 9006系列“Venice”，更是將CPU性能提升到一個新的層次。
AMD將“Venice”系列稱作“面向智能體時代的全球最強伺服器CPU”，包括4款產品：
（1）“Venice” SP7：面向最高性能和大規模應用，最高256核/512線程，最大頻寬達1.6TB/s，支援64Gbps PCIe 6.0，96個核心擁有5.0Ghz頻率。
（2）“Venice” SP8：在高性能與系統成本之間取得平衡，8~128核，雙路系統提供8個記憶體通道，128條PCIe通道，提供高頻型號（HF）和面向NEBS環境最佳化的型號。
（3）“Venice-X”：面向AI預處理和HPC，最多96核，16個記憶體通道，最高12.8GT/s MRDIMM/DDR5，1152MB大容量L3快取，最高5.15Ghz頻率。
（4）“Verano”：提高機架級效率，最多72核，LPDDR5X記憶體，增強版xGMI互連傳輸速率。達112Gbps，最高5GHz頻率。
截至本周，“Venice” SP7已進入量產階段，預計2026年第四季度開始出貨；“Venice” SP8將在2027年第一季度出貨，“Venice-X”和“Verano”計畫在2027年第二季度出貨。
這是一個功能豐富、覆蓋面很廣的現代AI資料中心CPU產品組合。
- 計算：“Zen 6c”核心最高256核/512線程，“Zen 6”核心最高96核/192線程，提供1152MB L3 3D V-Cache，最高功耗600W。
- 記憶體：8000MT/s 16通道DDR5，12800MT/s 16通道MRDIMM，支援24通道LPDDR5X記憶體，並採用可現場更換的SOCAMM2記憶體模組。
- I/O：首批支援PCIe 6.0的CPU，傳輸速率為64GT/s；第五代AMD Infinity Fabric。
- 安全：面向機密計算需求，增強硬體信任根，支援對物理攻擊和側通道攻擊的緩解措施。
它能作為優秀的GPU主機節點，最大限度提高GPU利用率，也能在智能體時代的CPU沙箱中，具備出色的技術屬性，將可承載的智能體數量最大化。
與輝達、英特爾、Arm CPU相比，“Venice”有如下優勢：
- 在通用CPU伺服器上，性能是88核輝達Vera的3.3倍。
- 作為GPU主機節點，前沿模型推理的每秒Token數是英特爾至強6960P的1.8倍。
- 在智能體CPU沙箱中，每瓦智能體數量是136核Arm AGI的2.8倍。
AMD使用相同編譯器，復現了輝達白皮書中公佈的Vera CPU各項條件，發現無論是絕對性能、每瓦性能、每核性能、頻寬，還是以不同訂貨型號（OPN）服務現代資料中心多種需求的能力，“Venice”都有優勢：“Venice”的吞吐性能是Vera的2.2倍，開箱狀態下每核心性能比Vera提升20%。
相比英特爾和Arm平台，“Venice”吞吐量達到2倍，每核心性能達到1.3倍。
在企業級應用中，相比第六代英特爾至強，256核“Venice”可實現2.5~3.7倍的性能優勢。
在生命科學、量子化學、氣候預測等HPC場景中，256核“Venice”的性能是128核英特爾至強6980P的1.8倍~3.1倍。
一個使用了五年的老舊資料中心，如果有大約1000顆英特爾至強處理器，只需82顆“Venice”就能完成替代，替換比例約為12:1，由此可減少77%功耗、92%的伺服器數量、40%的5年TCO。
作為主機CPU，相比上一代“Turin”，“Venice”運行前沿模型的每秒Token數增加80%。
“Venice”可提供多種高密度方案。在一種配置中，其每機架最高可達到約4.9萬個CPU核，相當於88核輝達Vera方案的2.2倍。
該處理器現已進入量產階段。
04. 網路三利器：400G DPU、UALoE、800G AI NIC
AMD多年來一直在建設前端網路、縱向擴展網路（scale-up）和橫向擴展網路（scale-out），並在三個領域分別形成了領先方案。
Helios網路系統包括三層：
（1）前端網路：第三代Pensando Salina DPU，400G頻寬，性能翻倍，負責軟體定義網路、線上加密和多種安全服務，並支援分離式記憶體架構，如NVMe over Fabrics和KV Cache解除安裝。
（2）縱向擴展網路：第一代UALoE fabric，可將72顆GPU連成像統一GPU資源池那樣運行，提供260TB/s頻寬（上一代的3倍），建立31TB HBM4統一記憶體，具備高可靠性與高可用性。
（3）橫向擴展網路：第二代Pensando “Vulcano” AI NIC，800G，PCIe 6.0、UAI，每顆GPU最多可配3張AI NIC，從而提供最高2.4Tbps的總頻寬。
1、Salina DPU：為智能體解除安裝基礎設施任務
在前端網路中，DPU影響到基礎設施能同時運行多少智能體、智能體記憶能維持多久，以及整個基礎設施能以多高的效率擴展。
Salina DPU的性能是輝達BlueField 3的1.4倍。其NVMe over Fabrics能力和快取管理解除安裝，可讓記憶體在物理上解耦，同時在GPU看來仍是一個共享資源池，還能在保持安全性與租戶隔離的同時，處理KV Cache上下文的檢索與放置。
這樣既能降低網路時延，也能釋放CPU周期，讓CPU把更多資源用於提高智能體AI密度。
AMD的一家超大規模客戶通過採用DPU，在每台伺服器上釋放了22個CPU核心，顯著提高基礎設施性能。
2、UALoE：開放的縱向擴展架構
UALoE是一種開放、基於乙太網路的縱向擴展架構，注重可靠性、可用性和可維護性（RAS），旨在讓鏈路中斷、交換機故障或丟包等問題不至於迫使任務整體重啟，也不必付出昂貴的檢查點恢復代價。其還在端點執行線上加密，以支援機密計算，並針對不同的故障場景進行妥善處理。
Fabric Manager是UALoE背後的軟體定義智能系統，為零接觸部署、監控和全生命周期管理提供統一控制介面，能提供細粒度可觀測性與遙測資料，展示網路健康狀況和性能，借助內建RAS能力恢復故障，並在潛在問題影響工作負載之前發出提示。
其虛擬POD機制可將一套72-GPU系統劃分為多個虛擬POD，在每個vPOD內建立相應的隔離、韌性與可靠性，進一步提高系統級可用性。
3、Vulcano 800G AI NIC：每GPU頻寬提升50%
在橫向擴展網路中，Vulcano支援智能負載平衡、硬體擁塞管理，以及快速丟包檢測與恢復，使GPU能夠最大限度利用網路頻寬，同時降低時延和抖動。
這些能力結合起來，每GPU頻寬可提升多達50%，將大語言模型訓練速度提升13%，通過多平面網路和智能封包分發可將網路成本降低33%。
05. 本地AI：把3000億參數模型搬到桌面
本地模型正以驚人的性能增速演進。過去需要超過1000億參數模型才能達到的性能，如今正在下沉到約90億參數的模型。
如今，90億參數級模型能裝進一台主流AI PC，比如配備足夠記憶體的Ryzen AI 400，就能支援最高240億參數的模型。
之前在CES上發佈的Ryzen AI Halo開發者平台，即插即用，擁有128GB統一記憶體，最高可運行約2000億參數的模型，也能建構多智能體工作流。
ROCm軟體棧能橫跨AMD不同硬體平台運行。開發者可在本地完成大量開發工作，比如先在Ryzen AI Halo上運行模型、進行微調和開發功能，再使用同一套軟體，無縫遷移到性能更強的資料中心產品。
AMD正在全面深化與全球最大開源AI社區Hugging Face的合作，目標是讓開發者能夠無縫呼叫Hugging Face模型，並在AMD平台上輕鬆發揮其能力。
每台Ryzen AI Halo將附贈一年Hugging Face Pro訂閱，鼓勵開發者充分利用這一生態。
之前AMD還在Computex上介紹了新一代產品，代號“Gorgon Halo”，對應新一代Ryzen AI Max PRO 400系列，把統一記憶體支援從128GB提高到192GB，將本地可運行模型的上限從約2000億個參數提高到約3000億個參數。
AMD已形成廣泛的個人AI系統生態，形態包括筆記型電腦、工作站、小型桌上型電腦和開發者平台等。
06. 物理AI：推出X100系列處理器，掏出機器人開發全家桶
AMD嵌入式業務在物理AI領域擁有很長的歷史。其業務部門很大一部分來自AMD對賽靈思的收購。賽靈思進入機器人領域已超過20年。
物理AI的核心可以概括為感知、理解、行動。而FPGA在這三個環節都有優勢。
面向物理AI和機器人領域，AMD發佈Ryzen AI Embedded X100系列處理器、Kira AI機器人開發者平台、Kria AI系統模組（SOM）、Kria AI機器人開發者平台，以及AMD機器人合作夥伴網路。
（1）Ryzen AI Embedded X100系列處理器：16核“Zen 5” CPU，具備獨顯級能力的RDNA 3.5 iGPU，XDNA 2 NPU（特別適合低功耗、始終線上的推理）。
（2）Kria AI系統模組（SOM）：一塊預先完成高速介面和基礎計算模組設計的模組，底部配有一組連接器，可插入客戶設計的載板，幫助產品快速進入市場。
經測試，與輝達Jetson AGX Thor對比，Kira AI平台可實現3.4倍的即時控制性能、2.3倍的並行智能體數量、1.6倍的CPU容量。
（3）Kria AI機器人開發者平台：計畫今年第四季度出貨，將搭載Ryzen AI Embedded X100 SOM和一塊參考載板結合。參考載板上配有AMD Spartan UltraScale+ FPGA，用於感測器聚合和感測器融合。
裝置背面提供常見的乙太網路、USB和顯示輸出等介面。前面板專為機器人設計，用於接入時間敏感網路、攝影機和各類感測器。開發者可在幾天內完成從概唸到原型的過程。
AMD將開放載板的原理圖、物料清單（BOM）以及載板上FPGA的RTL設計，使客戶能根據具體應用修改設計，快速進入市場。
開發者可在雲端使用AMD Instinct GPU訓練基礎機器人模型，再使用同一軟體棧，把模型部署到Ryzen AI Embedded X100處理器和Kria AI機器人開發套件上。
AMD正在建構一套從訓練到部署的軟體棧，包括機器人核心SDK、更廣泛的物理AI SDK以及未來持續擴展的軟體開發套件。
其機器人合作夥伴網路也日益壯大，包括模型、中介軟體、感測器、應用與系統、物理模擬合作夥伴，以及負責測試、驗證和產業協作的相關組織。
07. 軟體：發佈ROCm.ai軟體棧，讓智能體加速AI開發
AMD一直在擴展ROCm生態及其能力，目前ROCm已支援Hugging Face上超過300萬個模型，能在新開源模型發佈首日就提供支援。
過去一年，外部開發者對ROCm開放原始碼軟體棧的貢獻增長了10倍以上。ROCm的發佈節奏已從過去每4-6個月一次，加快到大約每六周一次，顯著提高了新功能交付速度、性能以及開箱即用體驗。
AMD與多家開放原始碼專案緊密合作，甚至直接提供硬體，讓Hugging Face、PyTorch、vLLM、SGLang等項目運行每日持續整合（CI）測試。
AMD的軟體戰略的核心支柱包括：開源、高層抽象、AI輔助、ROCm Everywhere。
AI輔助正在大規模進入開發流程，已顯著提高AMD的生產效率。例如，在MI450/Helios相關工作中，AMD已支援最新發佈的Kimi等模型。智能體工作流可幫助團隊快速完成移植和最佳化。
今日，AMD推出一款AI驅動的平台ROCm.ai軟體棧，包括：
- Skills層：面向Claude Code、Codex、Cursor等程式設計智能體。
- HyperLoom層：端到端AI工作負載最佳化。
- 框架整合層：PyTorch、vLLM、SGLang、JAX等。
- 核心SDK：庫、編譯器和工具、執行階段。
該軟體棧將於今年8月可用。
其中，HyperLoom是一套智能體工作流，能運行並分析模型，對模型進行性能剖析，定位通訊、GEMM或其他核心中的瓶頸，發現可以融合的相鄰核心，自動執行最佳化，不斷重新測試並迭代。
例如，HyperLoom可以調優GEMM、融合核心、改變記憶體訪問模式，或者採用memory swizzle改善資料局部性。經過反覆迭代後，它會輸出相應的性能提升結果。
會上播放了ROCm AI工作流演示視訊：使用Claude Code，輸入“用HyperLoom最佳化MiniMax M3推理”，系統首先用最新配方運行模型，得到性能基線，隨後進行性能剖析，發現某個GEMM需要調優，完成調優後又發現需要生成帶memory swizzle的核心，於是使用Triton自動生成。
只經過一次點選，它就將性能提升了38.3%。
AMD在過去一年持續把這類技術應用到前沿開放模型上，推理性能提高到ROCm 7初期的3.3倍，訓練性能提高到約2.4倍。
另一個演示是用Codex在AMD Helios上運行擁有1.6兆參數的DeepSeek-V4 Pro模型：Codex自動配置環境、啟動模型，並確認模型已經運行，隨後使用者要求它“寫一首關於Advancing AI的詩”，模型便生成相應內容。
AMD能在新模型上實現Day-0支援，重要原因之一正是智能體的最佳化速度極快，它們能夠日復一日幫助團隊適配和最佳化數以千計的模型，速度超過僅依賴人工工程師的方式。
以DeepSeek-V4 Pro為例，從4月獲得Day-0支援到現在，在相同硬體、相同模型上，AMD僅通過軟體最佳化，就在大約3個月內取得了5.3倍的性能提升。
在HPC方面，部分競爭平台已弱化硬體原生FP64，更多依賴模擬，因此速度會慢很多。AMD的優勢之一是Chiplet架構，可根據目標產品靈活組合FP4與FP64計算能力，AMD Instinct MI430X就採取這種方式。
MI430X能夠提供高達288TFLOPS的硬體級FP64科學計算性能。與輝達Vera Rubin相比，MI430X可實現8.7倍的FP64算力、多50%的HBM4容量、多6%的HBM4頻寬。
08. 結語：將完整系統級設計交給客戶，AMD邁出重要一步
過去數年，AMD一直堅持四項原則：提供領先的性能與總擁有成本，提陞遷移便利性，全軟體棧開源，以客戶為中心。
其AI合作夥伴生態正愈發繁榮，包括越來越多的雲服務提供商（CSP）、新型雲服務商（NeoCloud）、OEM、ODM，以及本地部署合作夥伴。
今日發佈的Helios，對AMD而言是重要的一大步，這意味著AMD通過在協同設計、協同工程的機架中提供全部關鍵元件，讓客戶得以獲得完整的AMD端到端方案價值。 (芯東西)