在資料中心領域,AMD已經大殺四方了。
AMD伺服器CPU的市場份額,從2017年的大約0.2%,一路飆升到如今的46%。近十年,AMD從幾乎被忽略的挑戰者,走到佔據市場半數的位置。
今年,AMD更是秒開仙人模式,接連幾顆炸彈,一套連招瞄準的是同一個方向:Agentic AI(智能體)。
第一顆,Zen 6架構,在架構層推出專為智能體時代設計的靈活計算底座。
第二顆,第六代EPYC處理器Venice,最高擁有256個核心,在晶片層推出面向Agentic AI帶來的CPU產品家族。
第三顆,Helion機架,以CPU為核心調度執行智能體任務,在機架層推出專為Agentic AI設計的機架級參考設計。
美國當地時間11月4日,在拉斯維加斯舉行的AMD In Depth大會上,AMD詳細拆解了Zen 6的架構設計、Venice的產品佈局,以及AI負載下的機架級部署思路,也公佈了延續至2030年的產品路線圖。
值得一提的是,這次AMD首次深度介紹MEXT記憶體最佳化技術。按照AMD給出的測試結果,在特定智能體AI工作負載中,DRAM用量減少50%,系統性能仍可達到全DRAM配置的99%。這也說明,AMD關注的已經不只是計算核心本身。何讓資料更高效、更低成本地流向CPU和GPU,開始成為AMD AI基礎設施佈局中的重要一環。
從核心到處理器,從記憶體到機架,整條鏈路都圍繞AI時代資料中心展開。AMD這些新產品背後,透露出的不僅是性能升級,更是它對AI時代計算基礎設施的重新思考和取捨。
01 Zen 6炸場,AMD對於AI時代架構的思考
先來看這次最硬核的部分,Zen 6。
此前,AMD已經公佈第六代EPYC最高做到256核,但核心內部到底改了什麼,說得不是很清楚。這次,AMD把前端、執行單元、快取和指令集的細節進一步攤開。
AMD架構師Mike Clark在現場談到,Zen 6同時加強了兩個設計點:一頭是整顆處理器的吞吐能力,另一頭是高頻、低延遲的執行能力。對應到產品上,就是Zen 6c和Zen 6。
首先從核心數來看,高密度接住並行,高頻加快關鍵步驟。Zen 6c將單個核心複合體CCX從16核擴大到32核,共享L3快取從32MB增加到128MB,最高頻率由3.7GHz提高到4.1GHz,整顆處理器最高從192核擴展到256核。Zen 6的CCX從8核增加到12核,L3從32MB增至48MB,最高加速頻率由5.0GHz提高到5.3GHz。
這兩條路線,對應的是智能體時代的AI場景。大量會話、沙箱和工具呼叫同時運行,需要更多核心承接工作;某些程式碼執行、資料庫訪問或序列步驟,又會直接影響整條任務的完成時間,需要更強的單線程性能。
其中還有一個有意思的細節:Zen 6c的浮點調度器為三組、每組60項,高頻版Zen 6則為每組46項。Clark解釋,頻率越高,每個周期留給電路完成工作的時間越短,內部結構也要滿足更緊的時序要求。Zen 6c頻率目標相對較低,AMD便利用這部分設計空間增加調度資源,讓處理器有機會從更多等待中的操作裡尋找可以執行的工作。
其次核心增加了,快取和訪存也得跟上。這次Zen 6c的快取:核心翻倍,L3直接擴大到四倍。按核心數折算,平均每核對應的L3容量從2MB變成4MB,每核還保留1MB私有L2。128MB L3由32個核心共享,活躍核心可以按需使用。對於需要共享資料的程序,更大的複合體也有機會減少跨複合體通訊。快取的作用不難理解。CPU算得很快,去主記憶體取資料卻需要等待。Agent呼叫的資料庫、執行階段和工具程序,包含大量分支和不規則訪存,把反覆使用的資料留在核心附近,可以減少這些等待。AMD還調整了預取策略:線程少、記憶體空閒時積極一些;大量核心爭用頻寬時,則控制無效搬運,避免預取本身把通路堵住。核心內部也擴充了尋找可執行指令的空間。Zen 6延續Zen 5打下的雙基本塊取指與流水線基礎,將保存已解碼操作的Op Cache擴大到6.75K Ops,最高每周期可以提供18個操作,後續分派寬度為8路。Zen 6c的亂序窗口從448項增至640項,整數物理暫存器從240項增至352項,Load/Store Queue由64/96項增至80/128項。可以把亂序窗口理解為CPU眼前的待辦清單:前面的工作等資料,就找後面能先做的。窗口和配套資源擴大,調動工作的餘地也更大。這與智能體執行層的負載很相關。它呼叫的真實軟體往往包含大量分支、函數呼叫和不規則訪存,處理器需要在這些複雜路徑裡持續尋找能推進的工作。
最後從向量計算來看,Zen 6延續512-bit浮點通路,新增完整AVX-512 FP16計算支援。INT8 VNNI執行管線從兩路增加到四路,並加入Bit Matrix Multiply位矩陣乘法能力。資料載入則支援每周期兩次512-bit,或四次256-bit。兩者搬運的資料總量相當,改進在於已有256-bit程式碼也有機會更充分地利用通路。企業軟體更新慢,這種兼顧很實際。
把這些變化放在一起,AMD的思路就比較清楚了:高頻核心加快關鍵步驟,高密度核心承接大量並行,快取、執行窗口和資料訪問能力幫助核心持續工作,向量與系統能力則擴大適用範圍。
那麼,這些改動帶來了多少提升?在固定頻率、固定16核測試中,Zen 6c相對Zen 5,在所選企業與雲負載上的幾何平均IPC提升約20%,AI負載約31%,整體約提升27%。Clark坦率地表示,AMD長期相信CPU會在AI軟體生態中佔有位置,因而持續加強通用計算、向量能力和系統效率。智能體的興起,放大了這些設計的價值。這也對應了AMD給Zen 6架構的定位:面向智能體時代的靈活計算。(Flexible Computing for the Agentic Era)。
02 EPYC 9006排兵佈陣:AMD對於AI時代CPU的思考
在AMD in Depth現場,AMD拿出了一顆96核Venice,最高加速頻率達到5.3GHz。這顆高頻Venice,只是第六代EPYC產品陣容中的一員。SP7還有最高256核的高密度版本,並提供16通道記憶體;SP8覆蓋8核到128核,面向企業伺服器;Venice-X用3D V-Cache服務EDA和高性能計算;Verano則用上LPDDR5X,主打AI主機節點的能效。
AMD準備這麼多種CPU,和智能體怎麼幹活有關。過去,使用者提出問題,模型給出回答。現在,讓Agent完成一項任務,它可能先查資料庫,再寫程式碼、運行測試,發現結果不對,還要回頭重新執行。使用者只下了一次指令,後台卻忙了好幾輪。模型負責計畫和判斷,執行這些計畫會調動大量CPU資源。
AMD把智能體基礎設施裡的CPU分成了三種角色:第一類是AI Host Node,給GPU當主機;第二類是Agent Sandbox,為程式碼執行和工具呼叫提供沙箱;第三類是通用計算節點,運行企業原有的軟體。
給GPU當主機,首先得快。準備資料、提交任務、處理請求,這些步驟如果卡在CPU上,後面的GPU也可能閒著。對這類工作,提高關鍵線程的處理速度,往往比繼續增加核心更有用。現場展示的96核、最高5.3GHz的Venice,瞄準的就是這類需求。AMD還為主機節點準備了另一套方案:Verano。它最高提供192個Zen 6c核心或72個Zen 6核心,採用24通道LPDDR5X-8533,並通過EFB互連降低芯粒間搬運資料的能耗,當然記憶體使用可更換的SOCAMM模組。這裡的LPDDR5X值得多說一句。從今年AMD、英特爾、輝達推出的智能體CPU來看,大部分配備的都是LPDDR5X產品,比如,輝達Vera同樣採用LPDDR5X和SOCAMM,記憶體頻寬最高約1.2TB/s,主要還是因為資料中心面臨日益嚴峻的電力和散熱限制。LPDDR5X最初應用於移動和邊緣裝置,如今憑藉其在提供更高記憶體頻寬的同時,功耗僅為傳統DDR5實現的幾分之一,向LPDDR5X的轉變是伺服器架構的一次關鍵演進。
到了Agent沙箱,AMD又把高密核拿了出來。Agent執行程式碼、處理檔案、呼叫工具,通常需要在隔離環境裡完成。這些任務可能只運行幾秒,卻會被成百上千地反覆啟動。伺服器既要啟動得快,也要同時容納足夠多的任務。SP7的256核、512線程配置,瞄準的正是智能體的並行需求。從測試來看,面對短時工具任務,Xeon 6980P平台的成績為1,192核Graviton5為1.4,192核Turin為1.7,256核Venice達到2.5。
企業伺服器的需求,又與專用AI叢集不同。資料庫、業務系統、虛擬機器和檢索服務,不會因為部署了Agent就停下來。原本由人點選、查詢的軟體,現在可能被Agent連續呼叫。AI應用做得越深入,後台這些系統也越忙。SP8就是AMD給出的配置。據AMD介紹,SP8的設計來自與大型企業和OEM客戶的深入交流。它覆蓋8核到128核,採用8通道記憶體,每通道支援兩條DIMM,平台最大TDP為400W。按具體配置,單路系統最多提供128條PCIe 6.0通道,雙路最高192條。
企業與雲工作負載測試中,以128核Xeon 6980P為基準,256核EPYC 9996在MongoDB(YCSB)中的性能約為3.6倍,MySQL事務處理測試(TPC-C)約為2.8倍,Redis讀取測試約為3.5倍。這裡有個挺有意思的取捨:相比SP7,SP8的記憶體通道從16條減到8條,單路PCIe通道上限卻從96條增加到128條。記憶體和業務伺服器可能不需要256個核心,卻要連接大量NVMe SSD、網路卡和其他裝置。SP8把配置空間留給這些用途,也讓企業不用為了I/O擴展,連帶買下自己用不上的最高計算規格。在現場展示的一組伺服器整合測算中,AMD給出的結果是:單伺服器性能約為原方案的7.4倍,伺服器數量減少約86%,五年總擁有成本降低約37%。
這次在工程軟體裡,AMD再次拿出殺手鐧3D V-Cache。
Venice-X最高96核、192線程,配備1152MB L3快取,最高加速頻率達到5.3GHz,單插槽理論峰值記憶體頻寬約1638GB/s。注意,上一代Genoa-X已經做到了96核和1152MB L3。這一輪,AMD在保持核心數和快取容量的同時,把最高加速頻率從3.7GHz提高到5.3GHz,峰值記憶體頻寬從460.8GB/s提高到約1638GB/s,再疊加Zen 6的架構改進。這項用於EDA、工程模擬等軟體會反覆訪問熱點資料,大快取可以減少主記憶體訪問,高頻核心加快計算,更高頻寬則處理快取之外的資料。
這次HPC展示裡,兩組普通Venice的對比,也能看出AMD為何同時保留高密度和高頻路線。256核EPYC 9996對比128核Xeon 6980P,AMD給出的所選HPC負載整體性能約為2.2倍。具體到軟體,GROMACS約為2.92倍,NAMD約為3.20倍,WRF氣象模擬約為2.87倍。對於同時運行大量模擬任務的叢集,更高吞吐意味著同一時間能完成更多計算。現場還有一個更直觀的案例:完成同一項三天颱風預報計算,128核至強GNR平台需要7.38小時,128核Turin需要5.22小時,96核Venice為3.49小時,256核Venice則縮短到2.66小時。
AMD EPYC 9006 SP7 已正式進入量產階段,將在2026年4季度開始發貨;EPYC 9006 SP8版本將在明年上半年發貨、針對HPC的EPYC 9006X SP7以及高能效的EPYC 9006LP 將於明年下半年陸續上市。在AMD最新的財報電話會上,蘇姿丰表示,新一代Venice EPYC需求火熱,OEM、ODM平台訂單數量較上一代Turin提升20%。
03 記憶體不夠又太貴,AMD有新招
這次關於記憶體,AMD在現場講了不少。
今年DRAM的需求大家都看到了。10月,通用型DRAM產品DDR4 8Gb(1G×8)的平均合約價格達到27.5美元。2016年6月開始統計時,價格還是2.9美元,漲了約9.5倍。
說實話,AI要用的記憶體真的很多。AMD現場直言,幾乎每次和企業客戶交流,都會談到記憶體供應和成本。模型參數、向量資料庫要佔記憶體,Agent執行階段產生的上下文、快取和中間結果也要佔記憶體。繼續買DRAM,成本越來越高;不買,任務又可能跑不下去。
於是AMD拿出了MEXT。
今年6月,AMD收購了MEXT這家公司,把它的記憶體最佳化技術帶進了自己的資料中心產品佈局。簡單說,MEXT會把暫時不常訪問的資料放到NVMe快閃記憶體,讓DRAM留給正在頻繁使用的資料。這樣一來,系統就能用較少的DRAM,承載更多記憶體資料。原理不難理解。程式執行時,並不是所有資料都在被訪問。MEXT先把暫時不用的記憶體頁面搬到快閃記憶體,再用預測引擎觀察應用的訪問規律,提前把可能馬上要用的資料搬回DRAM。並且,據AMD介紹,預測引擎可以在單個EPYC核心上運行,並在一秒內針對當前工作負載完成訓練。應用運行階段發生變化時,它會繼續調整預測。整個過程不需要GPU。
少裝DRAM以後,程序還能跑多快?AMD這次給了具體成績。在展示的智能體AI負載中,DRAM用量減少50%,性能仍達到全DRAM配置的99%;對於其中最吃記憶體的一項Agent負載,性能約為全DRAM方案的90%。Synopsys PrimeTime保留約95%的性能,Spark負載則約為99%。
MEXT也可以用於擴容。AMD展示的一套配備約1.4TB DRAM的EDA伺服器,在有效記憶體容量翻倍後,可以同時運行四個PrimeTime作業,吞吐提高約40%。原先記憶體只能容納兩個作業,另外兩個需要排隊;擴容後,四個作業可以同時運行,同一套硬體就能完成更多工作。
MEXT支援本地部署、雲端、裸機、虛擬機器和容器環境,也可用於全新和已有的AMD EPYC系統。在具體實踐上,AMD還談到與HPE的合作:現階段可在搭載EPYC的HPE系統上運行,後續計畫提供預裝MEXT和RAMView的系統。另外, AMD自己也在用這項技術。AMD內部已經在145套系統上部署MEXT。按照AMD的測算,如果通過購買256GB DIMM擴容,每條DIMM約需1.55萬美元,折合每GB超過50美元;採用MEXT後,單系統擴容成本可降低83%,145套系統預計節省超過500萬美元。
04 Helion登場:AMD對於AI時代基礎設施的思考
大會現場,AMD也展示了專為Agentic AI設計的機架級參考設計Helion。Helion是什麼?
Helion是AMD在Helios之後推出的、面向Agentic AI的機架級補充方案。與以72塊Instinct GPU為核心、面向訓練和大規模推理的Helios配合,Helion重點提供CPU執行資源,也可以加入本地推理GPU。
這次,AMD進一步給出了三種參考配置。追求密度的Helion Liquid採用液冷,最高容納36,864個CPU核心,對應約120kW的機架功率。Helion Air採用風冷,最高16,384核,對應約60kW。還有一套Helion Air+Inference,在風冷機架內組合最高12,288個CPU核心和16塊MI350P,把Agent執行與本地推理放在一起。
到了機架層面,AMD還進一步調整了CPU和記憶體之間的功耗分配。這項功能叫UPP,統一功耗配置。過去,伺服器要按記憶體可能出現的峰值功耗預留空間,但實際執行階段,DIMM未必一直用得上。UPP採集記憶體功耗,把SoC和DIMM放進共同的功耗預算,再由韌體執行約束,讓沒用滿的供電余量有機會用於計算。在AMD給出的特定配置中,啟用UPP後,每插槽能夠承接的Agent數量最高增加20%。對於已經達到供電上限的機架,多完成這些任務,就不必馬上增加相應數量的伺服器。
對比Helion與英特爾、Arm和輝達的機架方案:搭載256核Venice的Helion,單機架最高提供73,728個線程。Helion的線程規模分別約為英特爾288核Clearwater Forest方案、Arm AGI的136核Neoverse、輝達88核Vera方案的2倍、3.6倍和1.6倍。MEXT降低獲得新增記憶體容量的成本,UPP讓供電預算更充分地用於計算。CPU、記憶體與供電需要一起最佳化,才能把處理器的吞吐優勢保留到整座機架。
在拉斯維加斯,微軟AI基礎設施副總裁Ananth Sankaranarayanan登台,在現場介紹了Azure圍繞Venice平台的產品安排:ND MI455X v7採用Helios伺服器,面向大規模AI推理;HXv2採用Venice-X,服務晶片設計和技術計算;HDv2則採用Venice,承擔AI資料處理、智能體和HPC任務。其中,微軟在現場宣佈開放HDv2預覽,客戶可以申請提前使用。微軟展示了一組Spark ETL測試:處理1.3TB資料集,搭載兩顆256核Venice的HDv2,性能達到其所選在售替代平台的1.8倍。微軟也談到,AMD晶片設計團隊正在推進向新一代Azure HX實例遷移。
戴爾、HPE、聯想、超微(Supermicro)和思科等合作夥伴也來到現場,介紹了各自與AMD合作的進展。戴爾正在將Venice納入記憶體和AI資料平台設計;HPE談到了Helios機架網路合作,以及通過OpsRamp等工具管理系統;聯想介紹了基於SP7平台、覆蓋全液冷HPC和常規企業應用的伺服器設計;超微強調按工作負載搭配CPU、記憶體和I/O;思科則關注計算節點之間的網路連線和規模擴展。
據瞭解,當前,已有超過10款Helion認證機架,首批從2026年11月開始提供。
05 AMD未來五年路線圖
2017年,AMD推出第一代EPYC,最高32核。彼時首先要做的,是讓伺服器市場重新相信自己。到了今天,EPYC已經成為AMD資料中心業務的重要支柱。
最新財報中,AMD第三季度資料中心業務收入達到85.46億美元,同比增長97%,佔公司當季總收入約64%。從資料中心業務的收入看,今年以來前三季度分別為:57.75億美元、67.18億美元和85.46億美元;預計Q4將接近128億美元。這其中,既有EPYC的貢獻,也有Instinct加速器的增長。
AI時代對於CPU的需要,也是歷史給予AMD的一份禮物。多年積累的架構、企業軟體相容性和雲平台合作……AMD已經準備好了GPU、網路晶片與軟體等等,Helios、Helion把它們配成系統,伺服器夥伴再根據客戶的用途完成設計和交付。這也是AMD作為AI基礎設施供應商的實力所在。
從架構、核心密度、記憶體頻寬,到不同產品配置和客戶進展,Venice已經交出了一份完整的答卷。EPYC Venice,領先一代。後續路線,AMD已經排到了2030年。Venice已於今年第三季度啟動出貨;第七代EPYC Florence預計2028年推出,將採用新一代製程,並加入AI Compute Extensions;第八代Ravenna預計2030年到來。按這條路線,AMD計畫大約每兩年推進一代伺服器CPU。
AI正在重塑全球計算產業的格局,當AI掀起新一輪基礎設施建設浪潮,AMD已經具備了參與其中、持續向前的實力。正如蘇姿丰曾說:“我們從未處於如此有利的位置。” (半導體產業縱橫)

