對話華為輪值董事長汪濤:支撐中國大模型的算力路,已經走出來了

北風窗
AI速讀
華為宣布提前昇騰960晶片上市時間,並將AI戰略從「單晶片競爭」升級為「系統工程」。針對製程受限,華為推出「超節點」方案,透過整合高效互聯與記憶體技術,大幅提升大規模算力叢集的利用率。同時,華為透過CANN平台深化軟體生態,已獲PyTorch官方支持。華為明確其角色為AI基礎設施提供商,旨在為中國大模型企業打造穩定的算力底座,實現硬體變現與自主創新。

9個月,正在成為華為昇騰晶片路線圖上的一個關鍵數字。

去年全聯接大會上,華為給出的昇騰960時間表還是2027年第四季度。一年之後,這一時間表大幅提前。9月17日,在華為全聯接大會2026上,華為副董事長、輪值董事長汪濤表示,昇騰960DT提前至2027年第一季度,960PR提前至第三季度,未來昇騰系列晶片將保持一年一代的演進節奏。

根據華為公佈的資料,昇騰960超節點是全球首個採用NPO技術的超節點,採用5500個Hi-ONE,替代原本需要的4.8萬個800G光模組,功耗降低超過550千瓦,系統無故障執行階段間提升一倍,系統可用度達到99.8%。

但如果只把這看成一次晶片迭代,可能低估了華為這幾年在AI算力上的變化。

今年華為發佈的新技術和新產品,已經很難再用“一顆晶片”來概括:從昇騰960超節點,到靈衢、Hi-ONE NPO,再到AI記憶記憶體OceanStor M900,華為正在把計算能力從晶片進一步延伸到伺服器、網路、記憶體以及軟體生態。

汪濤首次就這一系列技術路線系統復盤了華為過去幾年從單顆晶片向系統級算力演進的過程。他談到了華為在晶片、互聯和軟體生態等環節面臨的現實約束,也解釋了為什麼華為最終選擇了一條不同於單純追求單晶片性能的技術路線。

“這個節奏,是華為基於當前可獲得的工藝,始終堅持創新的結果。”汪濤表示。

這句話或許是理解華為當前算力戰略的一個入口:將多個晶片更加緊密、高效地連接起來,打造超大規模算力底座,助力中國大模型加速模型迭代,構築世界領先優勢。

從一顆晶片,到一套計算系統

在華為看來,AI變革的速度已經超過歷史上任何一次技術革命。

過去AI晶片的競爭,很大程度上圍繞單顆晶片的算力、能效等指標展開,但隨著大模型參數規模不斷擴大,訓練和推理所需要的計算資源已經從單卡、單機逐步走向大規模叢集,晶片之間如何高效通訊、如何共享計算和記憶體資源,以及整個系統能否保持穩定運行,開始成為影響AI基礎設施效率的重要因素。

汪濤表示:“全球兆級MoE模型正快速迭代,各方交替領先。預計到2027年,10萬卡的算力叢集成為訓練SOTA模型的標配。”

在這樣的計算需求下,僅僅提高單顆晶片的計算能力已經難以覆蓋整個系統的需求,這也是華為近年來持續強調超節點和叢集架構的原因。

所謂超節點,並不是簡單地把大量伺服器卡連接起來。在今年的WAIC上,鵬城實驗室與全球計算聯盟,聯合38家單位共同發佈了《超節點定義與實踐白皮書》,各方就超節點的核心架構及其關鍵特徵形成了共識:即具備跨物理節點的統一記憶體編址能力,邏輯上具備“一台電腦”特徵的計算系統。

“很多人簡單把所有伺服器卡連在一起就叫超節點,其實這是一個誤區。”在汪濤看來。如果只是通過RoCE、IB等網路連線起來,本質上仍然屬於叢集,而超節點需要解決的是節點內部更深層次的計算和互聯協同問題。

隨著計算規模擴大,計算資源之間的互聯效率也越來越可能成為影響整個系統效率的關鍵變數。在10萬卡規模的叢集中,如果仍採用傳統的8卡伺服器架構,內部通訊時間可能超過訓練總時間的40%。華為馬爾可夫實驗室的一項模擬則顯示,在相同的10萬卡規模下,由4096卡超節點組成的叢集,相比由8卡伺服器組成的叢集,MFU(模型浮點算力利用率)可以提升2.75倍。

汪濤表示:“我們做過測算,MFU每提升1個百分點,10T大模型訓練可以縮短三天。”提升MFU是一個世界級難題,需要從系統工程視角進行最佳化。

這也是今年華為將靈衢、Hi-ONE NPO、OceanStor M900等不同產品放在同一套架構中討論的原因。隨著超節點規模擴大,傳統光模組連接方式面臨頻寬、功耗和可靠性等方面的挑戰,華為因此進一步推進NPO光互聯;在記憶體側,OceanStor M900則針對大模型推理中的KV Cache需求提供PB級快取能力。按照華為的規劃,這些能力最終都需要通過靈衢統一互聯起來。

華為將這種能力定義為系統工程:“只做好一個晶片是遠遠不夠的,只做一個整機、做一台伺服器也是不夠的。最後它是一個複雜的、多學科的系統工程能力——給客戶交付一個高可用度的計算系統,才是有價值的。”汪濤說。

從這個角度看,昇騰960超節點是這套系統中的一個重要組成部分。華為當下已經不只是“如何做出一顆更快的晶片”,而是如何把更多處理器、互聯、記憶體和軟體能力組織成一個高效的計算系統,使算力能夠以更高的效率和穩定性交付給客戶。

一條“被逼出來”的路,開始變成系統工程

華為並不是一開始就選擇了今天這條路。

過去幾年,從昇騰晶片到伺服器,再到超節點和叢集,華為不斷擴大自身在AI計算基礎設施中的覆蓋範圍,而背後的一個現實因素,是單顆晶片在先進製程上的限制。

汪濤對此也並不迴避。他在交流中直言:“因為眾所周知的原因,先進工藝不可獲得,我們需要從多晶片上突破,希望把更多的計算資源聯接在一起。”

也正是在這樣的現實約束下,華為開始圍繞“超節點+叢集”進行系統級創新,把計算、互聯、記憶體和軟體納入同一套系統架構,從而實現更高的計算效率。

而現在,這場重構正在進一步向更大規模的計算架構延伸。

“必須要通過創新打造新的路徑。”汪濤說。

這條路某種程度上是“被逼出來”的,但從一開始,它就是一條自主創新的路。今天的SOTA模型訓練,不是一顆晶片、一台伺服器可以完成的。隨著AI計算規模從單卡、單機走向大規模叢集,計算、互聯、記憶體和軟體之間的協同本身正在成為算力基礎設施的重要組成部分。

一套新的計算架構要真正成立,需要開發者願意使用,模型廠商願意適配,客戶願意部署,軟體生態也需要持續迭代。尤其是在AI開發高度依賴既有軟體生態的情況下,硬體能夠運行,與開發者願意長期在這一平台上開發,是兩件不同的事情。

這也是CANN需要解決的問題。CANN的全稱為Compute Architecture for Neural Networks,是過去幾年裡,華為面向昇騰AI處理器打造的軟體平台,連接底層硬體與上層AI框架、模型和應用。

汪濤表示, CANN作為昇騰生態的根基,自2018年發佈首個版本以來,經過8年的技術積累,架構與能力已逐步走向成熟完善。昇騰生態跨越了拐點,根據華為公佈的資料,目前CANN外部開發者佔比達到61%,月活躍開發者超過5200人,已有40多個模型實現原生預訓練,90多個主流第三方社區進行深度共建。

昇騰已正式成為繼 NVIDIA、AMD、Intel之後,在 PyTorch 官網可直接安裝的算力平台,也是首個來自中國的算力平台,全球所有開發者可以直接獲取昇騰算力的創新成果。PyTorch是目前全球主流的開源機器學習框架之一,被廣泛用於大模型訓練和推理開發。

“建構開源開放的算力生態是華為公司的核心戰略。我們堅持建構開源開放的算力生態,支援主流大模型基於昇騰原生訓練、積極擁抱‘百模千態’。一個計算系統工程不僅僅是硬體還有軟體生態,涉及算子、AI框架、領域加速庫以及複雜的工具體系。”汪濤說。

但即便如此,生態建設仍然是一個長期過程。“沒有任何一家公司能獨自支撐整個智能世界。”汪濤說。在他的描述中,華為聚焦AI算力基礎設施的角色,堅持硬體變現。模型公司做好模型,合作夥伴則圍繞產品和服務形成自己的能力,“每家都磨好自己的豆腐”。

昇騰真正的拐點正在到來

如果說過去幾年華為是“被逼出來”尋找一條能夠繼續向前走的路,那麼今天,這條路正在進入另一個階段。昇騰960晶片研發提前落地、Hi-ONE NPO率先引入超節點,昇騰生態跨越拐點,都說明華為已經不再只是單點補齊能力,而是在逐步把這套系統做大。

這條路已經越來越被業界認可,汪濤在演講中提到:昇騰910C超節點已部署超過1000套,昇騰950超節點已經規模商用。超節點已成為產、學、研共識,成為AI基礎設施建設的必然選擇。

從“超節點”作為一個概念被提出,到裝機量過千套,華為用了不到兩年。這也意味著,過去幾年圍繞單顆晶片差距的討論,正在被另一組變數替代——誰能把上萬張卡連成一台穩定的電腦。

“隨著大模型邁向十兆級規模,超節點逐漸成為超大規模AI基礎設施建設的‘必選項’。”汪濤說。

他同時表示,“華為AI戰略的核心,就是做好算力,同時堅持硬體變現。”

在他看來,堅持算力作為主賽道、堅持硬體變現,還有一個重要原因是明確研發資源的邊界。華為業務線眾多,很多技術和產業方向彼此交叉,公司也會進行探索,但並不意味著所有業務都將成為華為的商業變現方向。“華為員工具有很強的創造性,希望在不同方向做到世界第一,但公司的研發資源並不是無限的,因此需要明確核心投入方向。”

“既有頭部網際網路,也有大模型初創企業,他們的優異產品和強大的創新能力顯著提升了中國人工智慧的全球影響力。華為的使命是為這些優秀企業建構堅實的算力底座,做好他們堅強的後盾和夥伴。”汪濤表示,他們代表中國科技的未來,華為要做的就是磨好自己的豆腐,做好算力底座。

華為希望通過持續投入,打造中國算力底座,並為全球市場提供新的選擇,“希望經過5到10年能實現”。

從昇騰晶片到超節點,從超節點到叢集,再到互聯、記憶體和軟體生態,華為正在把AI計算的邊界不斷向系統層面延伸。單顆晶片的差距仍然存在,但路徑已經清楚:時間表在提前,裝機量在增長,行業標準由國內產學研用共同寫定。

“我們是沒有退路。但我們認為‘沒有退路就是勝利之路’。”汪濤說。 (第一財經)