登入
關鍵字
#萬卡叢集
官方認證
北風窗
2025/06/10
•
華為如何馴服AI算力「巨獸」?
HUAWEI X HUXIU在通往通用人工智慧(AGI)的路上,如何像其他領域一樣實現彎道超車,是業界繞不開的話題。在過去的十餘年時間裡,各項單點技術飛速演進,但隨著單點技術演進的邊際效應遞減和系統複雜度的提升,系統性能的天花板逐步從單點技術的上限演變成系統工程上限:單點優勢越來越像是精緻的零件,提升空間有限;但採用系統工程創新,各個部分完美配合、高效協同,實現整個系統的效能最優,才有更積極的現實意義。如何在發揮單點技術優勢的同時,以整體視角重新建構路徑,通過對複雜系統的極致把控與再組織、找到新的突破可能?解決這個看似不可能的問題,就有望為我們獨立引領最前沿技術發展創造條件。近期,虎嗅將推出《華為技術披露集》系列內容,通過一系列技術報告,首次全面詳述相關技術細節,為業界提供參考價值。我們期待通過本系列內容,攜手更多夥伴共同建構開放協作的生態系統,助力昇騰生態在中國的蓬勃發展。《華為技術披露集》系列 VOL.13 :萬卡叢集你是否注意到,現在的 AI 越來越 "聰明" 了?能寫小說、做翻譯、甚至幫醫生看 CT 片,這些能力背後離不開一個默默工作的 "超級大腦工廠"——AI 算力叢集。隨著人工智慧從簡單規則判斷進化到能處理兆參數的大模型,單台電腦的算力就像小舢板面對汪洋大海,而算力叢集則是把上萬台甚至幾十萬台電腦像搭積木一樣連接起來,形成一艘能承載巨量計算任務的 "算力航空母艦"。當我們把上萬台電腦整合成一個有機整體時,需要解決一系列世界級難題:如何讓它們像精密鐘錶一樣協同工作?如何在部分裝置故障時依然保持高效運行?如何快速修復大規模訓練中的中斷問題?接下來我們將逐一揭秘這些支撐 AI 算力叢集的關鍵特性,看看華為團隊如何用工程智慧馴服這頭算力巨獸。01 超節點高可用:24 小時不停工的智能工廠就像醫院的急診系統必須時刻線上,AI 訓練和推理也不能輕易中斷。算力叢集裡每台電腦都有 "備用替身",當某台機器出現故障(比如突然斷電或硬體損壞),系統會立刻啟動備用機接管任務,就像接力賽中接力棒無縫傳遞,確保自動駕駛訓練、語音識別等任務持續運行,不會因為個別裝置故障而全盤停止。針對CloudMatrix 384超節點,華為團隊提出面向整個超節點的故障容錯方案,分為“系統層容錯”、“業務層容錯”,以及後續“維運層容錯”,核心思想就是 將故障問題轉為亞健康問題,通過維運手段優雅消除:(1) 系統層容錯:通過超時代答欺騙OS+網路路由切換,防系統藍色畫面,同時避免整個超節點級故障。(2) 業務層容錯:租戶無感知下,通過重試容忍網路閃斷,將系統故障轉為亞健康。(3) 維運層容錯:主要構築亞健康感知和優雅恢復技術,通過主動方式將消減亞健康事件影響。02 叢集線性度:人多力量大的完美協作理想情況下,100 台電腦的算力應該是 1 台的 100 倍,1000 台就是 1000 倍,這就是 "線性度"。算力叢集通過精密的任務分配演算法,讓每台電腦都像 orchestra(交響樂團)的樂手一樣各司其職,避免出現 "三台和尚沒水喝" 的混亂。比如訓練一個需要兆次計算的模型時,萬台電腦能像整齊劃一地划槳的龍舟隊,讓算力隨規模增長而幾乎同步提升。華為團隊提出華為團隊提出拓撲感知的協同編排技術TACO、網路級網存算融合技術NSF、拓撲感知的層次化集合通訊技術NB、無侵入通訊跨層測量與診斷技術AICT等四項關鍵技術,實現盤古模型訓練線性度提升。實驗及理論分析結果顯示,訓練Pangu Ultra 135B稠密模型時,4K卡Atlas 800T A2叢集相比256卡基線,線性度為96%。訓練Pangu Ultra MoE 718B稀疏模型時,8K卡A2叢集相比512卡基線,線性度95.05%;4K卡CloudMatrix 叢集相比256卡基線,線性度96.48%。03 萬卡叢集訓練快速恢復:帶 "存檔功能" 的訓練師當用上萬個計算單元(俗稱 "萬卡")訓練超大規模模型時,偶爾有幾台機器 "罷工" 是難免的。這時系統會像遊戲存檔一樣,自動記錄最近的訓練進度。一旦檢測到故障,能快速定位出問題的計算單元,跳過故障部分,從最新的存檔點繼續訓練,避免從頭再來的巨大浪費。比如訓練一個需要 30 天的模型,即使中間有裝置故障,也能在幾分鐘內恢復進度,就像影片播放可以隨時續播。為了使萬卡叢集訓練可以達到分鐘級快恢,華為團隊提出了以下多個創新:(1) 處理程序級重調度恢復:正常節點通過參數面網路將臨終CKPT傳遞到備用節點上,完成參數狀態恢復後繼續訓練,能夠有效縮短訓練恢復時間到3min以內。(2) 處理程序級線上恢復:針對硬體UCE故障,通過業務面昇騰CANN軟體、框架軟體、MindCluster軟體配合實現故障地址線上修復,進一步縮短訓練恢復時間到30s以內。(3) 算子級線上恢復:針對CloudMatrix 384產品HCCS網路、ROCE參數面網路提供HCCL算子重試能力,容忍更長時間的網路異常,實現網路故障影響的通訊算子秒級重執行,訓練任務不中斷。04 超大規模MoE模型推理分鐘級恢復:各路英豪來幫忙隨著千億MOE模型架構演進,實例部署的組網架構從傳統的一機八卡演進為大EP組網架構,將多且小的專家部署在多個伺服器節點上緩解視訊記憶體頻寬壓力,目前在大EP組網架構下主要面臨部署規模擴大導致的故障機率數量增大、故障爆炸半徑變大的可靠性問題,任意硬體故障都會導致整個Decode實例不可用,進而導致推理業務受損,甚至中斷。針對當前超大規模MoE模型帶來的大EP推理架構的可靠性難題,我們提出三級容錯方案,實例間切換、實例內重啟恢復、實例內無損恢復,從硬體驅動層、框架層、平台層相互協作,構築端到端可靠性體系。在不同的故障場景下,採用不同的容錯恢復手段,可以最小化使用者損失。(1)實例內快速重啟恢復技術:根據實際環境測試驗證,該技術將實例恢復時間從20min降低5min。(2)TOKEN級重試:基於DeepSeekV3在CloudMatrix 384超節點場景下,驗證30~60s實現實例恢復。(3)減卡彈性恢復技術:作為當前進行工作,解決硬體故障下業務中斷問題,通過專家遷移,實現故障時推理處理程序不退出,以減卡為容錯手段,動態調整推理實例規模,在使用者無感知情況下秒級恢復。05 故障管理與感知診斷:24 小時線上的裝置醫生算力叢集裡有一套即時監控系統,就像給每台電腦安裝了 "健康手環",持續監測溫度、算力利用率、資料傳輸速度等指標。一旦發現某台裝置運行異常(比如散熱不良導致速度變慢),系統會立即發出警報,並像醫生一樣分析故障原因 —— 是硬體老化?網路擁堵?還是軟體 bug?快速定位問題並啟動修復機制,防止小故障演變成大停機。針對面向算力叢集的硬體故障管理,華為團隊提供了一套完整的解決方案:基於CloudMatrix 384超節點的裝置物理形態和組網方案的昇騰AI硬體災備高可靠架構設計、涵蓋基礎檢錯糾錯能力、故障隔離能力、故障容錯能力以及深度巡檢與故障預測能力的昇騰RAS統一故障管理容錯框架、進一步提升光鏈路的可靠性的網路自診斷可靠性管理、以及綠色低碳、穩定可靠和安全可信的雲資料中心管理體系。針對面向算力叢集的故障感知能力,華為團隊建構了大規模叢集線上故障感知(全端可觀測)和故障診斷(全端故障模式庫、跨域故障診斷、計算節點故障診斷、網路故障診斷)技術:(1) 全端可觀測能力:建構了大規模叢集的故障感知能力,主要由叢集運行檢視、告警檢視、網路鏈路監控、告警接入和配置、網路流可觀測能力組成。(2) 故障診斷能力:包括全端故障模式庫、跨域故障診斷、計算節點故障診斷、網路故障診斷。06 建模模擬:算力底座的“數位化風洞”在正式開展複雜AI模型的訓推之前,算力叢集可以先在虛擬環境的“數位化風洞”中 "綵排"。比如研發一個新藥篩選模型時,先通過模擬不同的演算法參數、資料輸入和計算資源分配方案,預測模型在真實場景中的表現,就像電影導演用動畫預演複雜鏡頭。這種 "先模擬後實戰" 的方式,能提前發現計算系統的瓶頸點和邏輯漏洞,並提出相應最佳化手段,節省大量真實訓推的時間和資源。華為團隊創新性提出系統化、可擴展的馬爾科夫建模模擬平台,圍繞對訓練、推理、高可用三大核心領域實現多維度系統性建模分析與性能預測調優,實現叢集資源高效配置與動態最佳化,達成算力極致利用與系統長期穩定可靠運行。(1)Sim2Train訓練建模模擬:馬爾科夫訓練叢集建模模擬平台,AdaptPack編排最佳化長序列PP空泡,吞吐提升4.5%-8.24%。通訊與計算協同場景,引入AdaptS/R技術,通訊暴露時間降89.84%,單步總時長縮短3.25%;MoE通過AdaptExpert提升端到端性能7.5%。(2)Sim2Infer推理建模模擬:面向昇騰複雜推理系統的馬爾科夫建模模擬平台,實現了從高層算子描述到底層硬體指令的自動化對應與模擬,平均誤差低至6.6%。(3)Sim2Availability高可用建模模擬:馬爾科夫高可用建模模擬框架,通過離散時間步長模擬,建模單步時長內的故障性能劣化影響與恢復耗時,模擬複雜系統訓練任務中的故障場景及維運響應,實現對訓練過程性能表現與故障恢復狀態的全周期監控模擬。07 框架遷移:給模型跑車換更酷炫輪胎自從2020年3月全面開源以來,華為推出的全場景AI框架昇思MindSpore一路高歌猛進,開發者生態迅速成長。除了為基於昇騰+昇思的自主創新外,昇思MindSpore也提供了擁抱主流生態的相容方案,適應大模型時代的挑戰和需求。(1)訓練階段,MindSpore建構了MSAdapter生態適配工具,覆蓋90%以上PyTorch介面,實現第三方框架的無縫遷移,並針對動態圖執行效率的問題,通過多級流水線技術與即時編譯(JIT)最佳化顯著提升執行效率。(2)推理階段,MindSpore基於主流生態的HuggingFace權重配置,無需修改即可實現一鍵部署,通過vllm-MindSpore外掛對接vLLM框架,支援大模型推理服務化能力。實現盤古72B模型快速部署,實現推理性能提升。08 寫在最後綜上所述,華為團隊針對昇騰算力叢集基礎設施,提出了針對超節點高可用、叢集線性度、萬卡叢集訓練快速恢復、兆MoE模型推理容錯、叢集故障感知及感知診斷、叢集模擬建模、框架遷移等方面的全維度的創新方案。隨著新型應用快速變化,硬體系統持續創新,系統架構不斷演進,工程能力走向智能化,未來算力基礎設施的演進將走上演算法-算力-工程協同進化的道路,有可能形成形成“應用需求→硬體創新→工程反哺”的閉環,演算法層驅動算力專用化(如復合AI需異構加速),算力層通過架構革新(如光電混合)釋放性能潛力,工程層以智能化手段(如AI維運)彌合複雜度鴻溝,最終實現高效、彈性、自癒的下一代算力基礎設施。 (虎嗅APP)
科技
#華為
#AGI
#昇騰
讚
留言
分享
官方認證
北風窗
2025/06/10
•
華為昇騰萬卡叢集揭秘:如何馴服AI算力「巨獸」?
萬卡叢集可用度達到98%,叢集秒級快恢(訓練+推理)。01 引言你是否注意到,現在的AI 越來越 "聰明" 了?能寫小說、做翻譯、甚至幫醫生看 CT 片,這些能力背後離不開一個默默工作的 "超級大腦工廠"——AI 算力叢集。隨著人工智慧從簡單規則判斷進化到能處理兆參數的大模型,單台電腦的算力就像小舢板面對汪洋大海,而算力叢集則是把上萬台甚至幾十萬台電腦像搭積木一樣連接起來,形成一艘能承載巨量計算任務的 "算力航空母艦"。當我們把上萬台電腦整合成一個有機整體時,需要解決一系列世界級難題:如何讓它們像精密鐘錶一樣協同工作?如何在部分裝置故障時依然保持高效運行?如何快速修復大規模訓練中的中斷問題?接下來我們將逐一揭秘這些支撐AI 算力叢集的關鍵特性,看看華為團隊如何用工程智慧馴服這頭算力巨獸。02 超節點高可用:24小時不停工的智能工廠就像醫院的急診系統必須時刻線上,AI 訓練和推理也不能輕易中斷。算力叢集裡每台電腦都有 "備用替身",當某台機器出現故障(比如突然斷電或硬體損壞),系統會立刻啟動備用機接管任務,就像接力賽中接力棒無縫傳遞,確保自動駕駛訓練、語音識別等任務持續運行,不會因為個別裝置故障而全盤停止。針對CloudMatrix 384超節點,華為團隊提出面向整個超節點的故障容錯方案,分為“系統層容錯”、“業務層容錯”,以及後續“維運層容錯”,核心思想就是 將故障問題轉為亞健康問題,通過維運手段優雅消除:(1) 系統層容錯:通過超時代答欺騙OS+網路路由切換,防系統藍色畫面,同時避免整個超節點級故障。(2) 業務層容錯:租戶無感知下,通過重試容忍網路閃斷,將系統故障轉為亞健康,(3) 維運層容錯:主要構築亞健康感知和優雅恢復技術,通過主動方式將消減亞健康事件影響。03 叢集線性度:人多力量大的完美協作理想情況下,100 台電腦的算力應該是 1 台的 100 倍,1000 台就是 1000 倍,這就是 "線性度"。算力叢集通過精密的任務分配演算法,讓每台電腦都像 orchestra(交響樂團)的樂手一樣各司其職,避免出現 "三台和尚沒水喝" 的混亂。比如訓練一個需要兆次計算的模型時,萬台電腦能像整齊劃一地划槳的龍舟隊,讓算力隨規模增長而幾乎同步提升。華為團隊提出華為團隊提出拓撲感知的協同編排技術TACO、網路級網存算融合技術NSF、拓撲感知的層次化集合通訊技術NB、無侵入通訊跨層測量與診斷技術AICT等四項關鍵技術,實現盤古模型訓練線性度提升。實驗及理論分析結果顯示,訓練Pangu Ultra 135B稠密模型時,4K卡Atlas 800T A2叢集相比256卡基線,線性度為96%。訓練Pangu Ultra MoE 718B稀疏模型時,8K卡A2叢集相比512卡基線,線性度95.05%;4K卡CloudMatrix 叢集相比256卡基線,線性度96.48%。04 萬卡叢集訓練快速恢復:帶"存檔功能" 的訓練師當用上萬個計算單元(俗稱"萬卡")訓練超大規模模型時,偶爾有幾台機器 "罷工" 是難免的。這時系統會像遊戲存檔一樣,自動記錄最近的訓練進度。一旦檢測到故障,能快速定位出問題的計算單元,跳過故障部分,從最新的存檔點繼續訓練,避免從頭再來的巨大浪費。比如訓練一個需要 30 天的模型,即使中間有裝置故障,也能在幾分鐘內恢復進度,就像影片播放可以隨時續播。為了使萬卡叢集訓練可以達到分鐘級快恢,華為團隊提出了以下多個創新:(1) 處理程序級重調度恢復:正常節點通過參數面網路將臨終CKPT傳遞到備用節點上,完成參數狀態恢復後繼續訓練,能夠有效縮短訓練恢復時間到3min以內(2) 處理程序級線上恢復:針對硬體UCE故障,通過業務面昇騰CANN軟體、框架軟體、MindCluster軟體配合實現故障地址線上修復,進一步縮短訓練恢復時間到30s以內。(3) 算子級線上恢復:針對CloudMatrix 384產品HCCS網路、ROCE參數面網路提供HCCL算子重試能力,容忍更長時間的網路異常,實現網路故障影響的通訊算子秒級重執行,訓練任務不中斷。05 超大規模MoE模型推理分鐘級恢復:各路英豪來幫忙隨著千億MOE模型架構演進,實例部署的組網架構從傳統的一機八卡演進為大EP組網架構,將多且小的專家部署在多個伺服器節點上緩解視訊記憶體頻寬壓力,目前在大EP組網架構下主要面臨部署規模擴大導致的故障機率數量增大、故障爆炸半徑變大的可靠性問題,任意硬體故障都會導致整個Decode實例不可用,進而導致推理業務受損,甚至中斷。針對當前超大規模MoE模型帶來的大EP推理架構的可靠性難題,我們提出三級容錯方案,實例間切換、實例內重啟恢復、實例內無損恢復,從硬體驅動層、框架層、平台層相互協作,構築端到端可靠性體系。在不同的故障場景下,採用不同的容錯恢復手段,可以最小化使用者損失。(1)實例內快速重啟恢復技術:根據實際環境測試驗證,該技術將實例恢復時間從20min降低5min。(2)TOKEN級重試:基於DeepSeekV3在CloudMatrix 384超節點場景下,驗證30~60s實現實例恢復。(3)減卡彈性恢復技術:作為當前進行工作,解決硬體故障下業務中斷問題,通過專家遷移,實現故障時推理處理程序不退出,以減卡為容錯手段,動態調整推理實例規模,在使用者無感知情況下秒級恢復。06 故障管理與感知診斷:24小時線上的裝置醫生算力叢集裡有一套即時監控系統,就像給每台電腦安裝了"健康手環",持續監測溫度、算力利用率、資料傳輸速度等指標。一旦發現某台裝置運行異常(比如散熱不良導致速度變慢),系統會立即發出警報,並像醫生一樣分析故障原因 —— 是硬體老化?網路擁堵?還是軟體 bug?快速定位問題並啟動修復機制,防止小故障演變成大停機。針對面向算力叢集的硬體故障管理,華為團隊提供了一套完整的解決方案:基於CloudMatrix 384超節點的裝置物理形態和組網方案的昇騰AI硬體災備高可靠架構設計、涵蓋基礎檢錯糾錯能力、故障隔離能力、故障容錯能力以及深度巡檢與故障預測能力的昇騰RAS統一故障管理容錯框架、進一步提升光鏈路的可靠性的網路自診斷可靠性管理、以及綠色低碳、穩定可靠和安全可信的雲資料中心管理體系。針對面向算力叢集的故障感知能力,華為團隊建構了大規模叢集線上故障感知(全端可觀測)和故障診斷(全端故障模式庫、跨域故障診斷、計算節點故障診斷、網路故障診斷)技術:(1) 全端可觀測能力:建構了大規模叢集的故障感知能力,主要由叢集運行檢視、告警檢視、網路鏈路監控、告警接入和配置、網路流可觀測能力組成(2) 故障診斷能力:包括全端故障模式庫、跨域故障診斷、計算節點故障診斷、網路故障診斷;07 建模模擬:算力底座的“數位化風洞”在正式開展複雜AI模型的訓推之前,算力叢集可以先在虛擬環境的“數位化風洞”中 "綵排"。比如研發一個新藥篩選模型時,先通過模擬不同的演算法參數、資料輸入和計算資源分配方案,預測模型在真實場景中的表現,就像電影導演用動畫預演複雜鏡頭。這種 "先模擬後實戰" 的方式,能提前發現計算系統的瓶頸點和邏輯漏洞,並提出相應最佳化手段,節省大量真實訓推的時間和資源。華為團隊創新性提出系統化、可擴展的馬爾科夫建模模擬平台,圍繞對訓練、推理、高可用三大核心領域實現多維度系統性建模分析與性能預測調優,實現叢集資源高效配置與動態最佳化,達成算力極致利用與系統長期穩定可靠運行。(1)Sim2Train訓練建模模擬:馬爾科夫訓練叢集建模模擬平台,AdaptPack編排最佳化長序列PP空泡,吞吐提升4.5%-8.24%。通訊與計算協同場景,引入AdaptS/R技術,通訊暴露時間降89.84%,單步總時長縮短3.25%;MoE通過AdaptExpert提升端到端性能7.5%。(2)Sim2Infer推理建模模擬:面向昇騰複雜推理系統的馬爾科夫建模模擬平台,實現了從高層算子描述到底層硬體指令的自動化對應與模擬,平均誤差低至6.6%。(3)Sim2Availability高可用建模模擬:馬爾科夫高可用建模模擬框架,通過離散時間步長模擬,建模單步時長內的故障性能劣化影響與恢復耗時,模擬複雜系統訓練任務中的故障場景及維運響應,實現對訓練過程性能表現與故障恢復狀態的全周期監控模擬。08 框架遷移:給模型跑車換更酷炫輪胎自從2020年3月全面開源以來,華為推出的全場景AI框架昇思MindSpore一路高歌猛進,開發者生態迅速成長。除了為基於昇騰+昇思的自主創新外,昇思MindSpore也提供了擁抱主流生態的相容方案,適應大模型時代的挑戰和需求。(1)訓練階段,MindSpore建構了MSAdapter生態適配工具,覆蓋90%以上PyTorch介面,實現第三方框架的無縫遷移,並針對動態圖執行效率的問題,通過多級流水線技術與即時編譯(JIT)最佳化顯著提升執行效率。(2)推理階段,MindSpore基於主流生態的HuggingFace權重配置,無需修改即可實現一鍵部署,通過vllm-MindSpore外掛對接vLLM框架,支援大模型推理服務化能力。實現盤古72B模型快速部署,實現推理性能提升。09 總結與展望綜上所述,華為團隊針對昇騰算力叢集基礎設施,提出了針對超節點高可用、叢集線性度、萬卡叢集訓練快速恢復、兆MoE模型推理容錯、叢集故障感知及感知診斷、叢集模擬建模、框架遷移等方面的全維度的創新方案。隨著新型應用快速變化,硬體系統持續創新,系統架構不斷演進,工程能力走向智能化,未來算力基礎設施的演進將走上演算法-算力-工程協同進化的道路,有可能形成形成“應用需求→硬體創新→工程反哺”的閉環,演算法層驅動算力專用化(如復合AI需異構加速),算力層通過架構革新(如光電混合)釋放性能潛力,工程層以智能化手段(如AI維運)彌合複雜度鴻溝,最終實現高效、彈性、自癒的下一代算力基礎設施。 (雷峰網)
科技
#華為
#萬卡叢集
#智能工廠
讚
留言
分享
官方認證
北風窗
2025/01/05
•
2025 年,小米的 AI 戰略要分三步走
2024 年的最後一天,雷軍很忙。 他不僅出現在小米汽車工廠跨年直播中,為小米的 2024 年作了最終的總結與展望,吸引超 3700 萬人次觀看,還神秘連線嗶哩嗶哩跨年晚會,介紹了自己的 2025 個人願望。 在小米的 2024 年總結中,雷軍用 12 張照片回顧了 2024 年的一些難忘瞬間,包括小米汽車首場發佈會、給小米 su7 車主開車門、小米 15 發佈會等。可以說,手機、汽車、AI 無疑是小米 2024 年最為重要的三個關鍵詞。 雷軍表示,隨著小米汽車業務步入正軌,他開始將注意力轉向 AI 領域,這不僅是個人興趣所在,也是小米生態系統的一次戰略延展。
科技
#2025 年
#小米
#雷軍
讚
留言
分享
官方認證
北風窗
2024/12/29
•
小米入局大模型:AI大模型賽道的“新玩家”來了?
近日,一則關於小米正在著手搭建GPU萬卡叢集的消息迅速傳開。 傳言稱,小米在AI大模型上的投入將大幅增加,其大模型團隊在成立之初就已配備了6500張GPU資源。 這一消息也讓業界開始重新審視小米在AI賽道上的佈局和野心。 小米此舉到底意味著什麼?它又能否在激烈的AI競爭中找到屬於自己的位置?
科技
#小米
#AI
#大模型
讚
留言
分享
官方認證
北風窗
2024/07/04
•
輝達平替?中國GPU萬卡叢集來了
最近兩年,大語言模型發展迅猛,對算力需求激增。然而,輝達A100等高端GPU一卡難求,是挑戰還是機遇?眾多中國算力廠商開始尋找新的替代方案。 作為中國僅有的可以在功能上對標輝達的GPU企業,摩爾執行緒試圖用“叢集化”的解決方案,助力國產GPU突破算力瓶頸。 7月3日,在2024世界人工智慧大會召開前夕,摩爾執行緒宣佈其誇娥(KUAE)智算叢集解決方案實現重大升級,從當前的千卡等級大幅擴展至萬卡規模,以此來完成對大模型的托舉,為兆參數等級的大模型訓練提供持續高效、穩定、且廣泛適用的通用算力支援。 AI主戰場,萬卡是標配
A股
#GPU
#萬卡叢集
#中國
讚
留言
分享