智能體 AI 對AI 基礎設施的需求。隨著 AI 從推理邁向行動階段，智能體不僅需要進行推理，還要檢索資料、呼叫工具，並與資料庫及其他智能體協同互動。這一趨勢正在推動資料中心內基於 CPU 的計算需求顯著增長。不過，不同工作負載對基礎設施的要求並不相同。對於橫向擴展（scale-out）和資料面（data plane）等應用場景而言，更傾向於追求最大化吞吐效率；而對於智能體和其他性能關鍵型應用，則需要具備高響應能力的 CPU 性能。如今，Arm 已在資料中心實現大規模部署。IDC 報告顯示，基於 Arm 架構的機架級伺服器市場規模已經超越 x86，成為加速計算領域的主流平台。
9月9日，在Arm Everywhere China 的年度大會上，Arm分享了其如何進一步推動這一改變。由於 AI 基礎設施並不存在適用於所有場景的統一方案，Arm 為客戶提供靈活選擇，幫助其根據不同工作負載需求選擇最適合的方案。借助全新的 Neoverse 計算子系統（CSS）N4，客戶可以打造針對最高吞吐量效率最佳化的晶片；而Arm AGI CPU則提供面向高響應智能體 AI 的量產就緒晶片。兩者均建構於統一的 Neoverse 平台和軟體生態系統之上。
借助Neoverse CSS N4加速差異化晶片開發
隨著 AI 基礎設施朝著更加異構化的方向演進，部分部署場景需要針對特定系統架構或功能定製晶片，涵蓋定製化計算平台、資料處理單元（DPU）、網路以及其他專用設計。
Neoverse CSS 將 Arm 的能力擴展到這些設計領域，為微軟（Microsoft）、雲豹智能等合作夥伴提供經過驗證的一體化計算底座。合作夥伴可圍繞不同用例進行靈活配置，同時降低工程投入和整合風險，並縮短晶片開發周期。Neoverse CSS N4 將這些能力進一步提升，成為 Arm 迄今為止可配置性最高的 CSS 平台，提供從 CSS 到晶片最快的開發路徑。
Neoverse CSS N4 單顆裸片（die）最高可搭載 128 個核心，支援 LPDDR6 記憶體與 PCIe Gen 7 互連。與 Neoverse CSS N3 相比，其性能最高可提升至兩倍，每瓦性能最高可達 1.25 倍，記憶體頻寬最高可達 1.75 倍。隨著智能體 AI 推動系統內更大規模的資料流動、加速器協同調度以及並行計算，上述這些性能的提升提供了所需的計算密度，以及高速記憶體和 I/O 能力。鴻鈞微電子是首批採用 CSS N4 開發基於 Arm 架構的差異化基礎設施晶片的合作夥伴之一。
與此同時，Arm 全面設計（Arm Total Design）生態項目通過更早階段的 IP 驗證和軟體開發，進一步加快產品量產處理程序。目前，Arm 正將這一協作模式擴展至物理 AI 領域。
Arm CPU驅動大規模智能體AI發展
市場上並非每一家客戶都需要打造定製晶片。對於希望部署量產就緒算力的客戶而言，Arm AGI CPU 也能提供 Neoverse 平台具備的卓越性能與能效。
自推出以來，AI 生態系統中的眾多企業，包括 OpenAI、Meta、Cloudflare、Oracle、SAP、聯想、Supermicro 和 Verda，均已圍繞 Arm AGI CPU 開發相關解決方案。
聯想集團副總裁、中國基礎設施業務群總經理陳振寬表示：“聯想和 Arm 對算力基礎設施未來的發展方向有著共同的願景——打造 Token 驅動的 AI 基礎設施。Arm AGI CPU 為下一代雲端運算和 AI 基礎設施提供了強大的技術底座，而聯想則在系統設計、製造、部署以及客戶合作方面擁有深厚積累。通過發揮雙方優勢，我們能夠將技術創新真正轉化為客戶價值，滿足中國市場快速增長的 AI 算力需求。”
在更廣泛的雲生態系統中，眾多企業已開始借助 Arm 平台支撐智能體 AI 應用的發展。Google Cloud 已在基於 Axion 的 GKE 環境中部署智能體沙箱；Microsoft Azure 利用 Cobalt 200 加速智能體沙箱中的工具呼叫與執行；NVIDIA Vera 則面向智能體工作負載進行了專門最佳化。
字節跳動旗下雲端運算業務火山引擎正在基於 Arm 平台建構其下一代雲服務，並將首批基於 Arm AGI CPU 的智能體沙箱解決方案推向市場，為大規模智能體工作負載提供安全、彈性可擴展的運行環境。
火山引擎雲基礎產品經理負責人李越淵表示：“我們對 Arm AGI CPU 的早期評估表明，其在主流雲工作負載中展現出良好的性能潛力。隨著AI 智能體的發展，市場對安全、隔離且能夠彈性擴展的大規模執行環境需求不斷增長。我們認為，Arm AGI CPU為下一代雲服務和智能體沙箱場景提供了堅實基礎。我們期待與 Arm持續合作，共同推動面向 AI時代的高效、可擴展和高性價比基礎設施建設。”
面向未來，築就下一代技術根基
Arm 也正在與新紫光集團深化戰略合作，共同推動中國下一代 AI 基礎設施的發展。雙方的合作將涵蓋 Arm AGI CPU 和 Arm計算子系統（CSS）等 Arm 技術。結合 Arm 在高能效計算及全球軟體生態系統方面的領先優勢，以及新紫光集團在晶片設計、系統開發和中國市場方面的能力積累，雙方還計畫在中國成立聯合通用人工智慧創新中心，圍繞 AI 智能體編排、CXL 記憶體池化、機架級系統架構以及邊緣 AI 等技術方向開展探索與創新，致力於打造面向中國市場、具有差異化優勢、覆蓋多代演進路線圖的 AI 基礎設施解決方案體系。
智能體 AI 仍處於發展初期。隨著智能體應用大量普及，基礎設施需要處理更多資料、協同/調度更多加速器，並支援更大規模的並行計算。因此，如何從每一瓦電力、每個機架以及每一筆投資中釋放最大價值，變得愈發重要。
整個行業正逐步將 Arm 作為下一代智能體 AI 的通用計算平台。借助 Arm AGI CPU 和 Neoverse CSS N4，客戶既能根據自身基礎設施需求靈活選擇發展路徑，又能共享統一的技術基礎，兼顧性能、能效與軟體相容性。 (印科技)