馬斯克建超算速度，被中國這家公司用120天復刻了。 119個集裝箱，像搭積木一樣拼出一座算力工廠。這不是科幻電影，而是浪潮資訊交付的驚豔答案。一個全新的AI時代，正在這裡拉開序幕。

120天，119個集裝箱，一座算力工廠拔地而起。

馬斯克速度，竟被國內這家公司完美復刻了！

上面這座算力工廠，採用了浪潮資訊專為AI時代提出的預製化AIDC解決方案。

他們以「搭積木」方式，向世界詮釋了驚人的基礎建設速度。

它不僅將長達18個月的建設周期，大幅縮短至4個月，甚至還實現了高效節能、彈性擴容、按需定製、便捷維運等技術創新。

更重要的是，這間算力工廠能夠完全滿足scaling大模型的算力需求。

不論是訓練，還是應用部署，預製AIDC解決方案全面支援了AI大模型創新研發與應用。

而現在，這元腦「算力工廠」正式投入營運。

算力，就是這個AI時代的「命門」。眾所周知，AI大模型對算力的需求，遠超乎所有人的想像。

不論是OpenAI、微軟，還是Google等科技巨頭們堅信的是，scaling law仍在繼續。

2024年12月，堪稱過去一年AI含金量最高的一個月，從中便可瞥見一二。

OpenAI十二天Devday連更，為所有人送上了滿血版o1、o1 Pro、Sora、高級語音功能，以及初次亮相的o3系模型。

大批網友上線直接把ChatGPT搞崩了

與之激烈對打的Google，更是戰績連連，憑藉Gemni 2.0 Flash、Veo 2直接殺出重圍。

邁入2025年，Grok 3、Llama 4、完整版Gemni 2.0等眾多模型，也即將迎來新一輪大戰。

可以預見的是，每一代新模型都在瘋狂「吃」算力，訓練參數呈指數級增長。這種瘋狂擴張的態勢，讓人不禁要問：我們的資料中心基建，還能支撐多久？

實際上，目前的資料中心正面臨最核心的「三重困境」。

1. 建設周期長，無法及時彌補高算力需求

作為算力的核心載體，資料中心的建設非一蹴可幾。

一般來說，傳統資料中心的建設是一個複雜的工程，需要經過設計、土木工程、機電安裝、偵錯等多個階段。其中，光規劃建設就要3-5年時間，佔到了整個生命周期的約1/3。

老黃同樣說過，「建造超算通常需要3年的規劃時間，外加1年裝置交付和偵錯時間」。

而我們所看到的，馬斯克10萬塊GPU建設速度，甚至即將要建造的100萬塊GPU搭建的超算，也只是個例。

3年，這一時間跨度，對於快速發展的AI時代顯得特別漫長。

例如，3年前規劃的資料中心普遍採用5-10kW/標準櫃，而如今單台AI伺服器的耗電量就突破10kW。

顯而易見，AI迭代與基建建設的速度，嚴重不匹配，導致資料中心還未建成就已落後於時代。

同時，這種「建設慢，需求快」的矛盾，不僅影響了產業發展速度，也直接影響了投資方資金回報周期，形成了惡性循環。

其次，隨著算力需求的暴增，資料中心的能耗問題也愈發突出。

AI大模型訓練的耗電量，可堪比小城市的用電量。而這樣比比皆是的報導，也早已家喻戶曉。

平均而言，ChatGPT查詢所需的電力是Google搜尋的近10倍。高盛研究估計，到2030年，資料中心的電力需求將增加160%。

從2023年-2030年，AI資料中心功耗的成長將達到每年200Twh

另一方面，資料中心功耗也面臨著巨大的挑戰。

從晶片設計方面來看，CPU熱設計功率（TDP）在過去十年幾乎翻倍，GPU熱設計功耗從2008年少於200W飆升至現如今1000W。

再加上，叢集越來越大，高密度伺服器部署來帶的散熱壓力，與日俱增。

與此同時，信通院發佈的《中國綠色算力發展研究報告（2024年）》顯示，中國資料中心的平均電能利用效率（PUE）在2023年時為1.48，而新的國家政策規定，新建資料中心的PUE不得超過1.25。

如何保持高效能運算的同時，達到節能標準，已成為一大難題。

而當前，智算中心需要探索的是，與綠色電力深度融合，實現能源高效利用，讓算力向智力有效轉化。

3. 擴容難題，升級有限，無法第一時間升級

不僅如此，AI快速迭代對資料中心的靈活性，提出了更高的要求。

然而，傳統資料中心的固定架構，限制了升級空間，無法及時採用新一代技術，難以快速回應業務需求的變化。

另一方面，資料中心也將面臨建成即落後、供不應求的窘境，投資報酬率難以保障。

針對這些挑戰，這些年，一些企業打造的預製模組化資料中心應用而生，並將成為主流模式。

依規模不同，可分為單元級（Unit）、包間級（Pod）、建築級（Stack Cube）、園區級（Base）等細粒度。

在AI時代下，我們需要專為AI而生的預製化AIDC。

浪潮資訊，便是這個方案的引領者。

算力工廠是一種創新的資料中心全生命周期服務模式，核心是通過規（劃）、建（設）、運（營）一體化的「交鑰匙」工程。

其總體架構自下而上，由算力底座、算力支撐、算力營運三部分組成。

首先，算力底座，就是我們可以直觀看到的算力中心。

元腦「算力工廠」這座智算中心採用創新的預製化AIDC解決方案，僅需119個預製化集裝箱單層拼接，4個箱體即可實現千卡規模AI算力。

如同先前所述，它書寫了驚人搭建速度的傳奇，直接將同等規模資料中心的建設周期，從18個月縮減至4個月。

這種創新方案，可以說完全顛覆了行業常規。

具體來說，它具備了以下幾點優勢：

- 快速交付，工期可縮短80%左右

因為採用了預製化集裝箱建設方式，同等規模資料中心的建設周期從18個月縮減至4個月，工期縮短了近80%。

因為創新地應用了液冷、太陽能、儲能、餘熱回收等節能技術，提高了散熱及能源利用效率，PUE可降至1.1以下，全年節省電費近2億元，營運成本大幅降低。

- 靈活擴展，最高可擴容至5層，實現全場景覆蓋

預製模組化疊箱體系建設模式可依業務規模，分期有效率地進行水平及豎向擴容，有效節省前期投入成本。

同時，八種模組化的功能箱體可依不同場景、規模靈活組合，並依照功率區段分區部署，實現風冷/液冷、AI/通用/高密度等多種形態靈活相容，匹配智算算力、一般算力、邊緣算力等多種應用場景。

元腦算力工廠包含了資料處理、AI大模型、業務應用、研發測試等多個叢集，為全球伺服器壓力測試、大模型開發應用等多種業務應用，提供了綠色高效的算力支撐。

如前所述，在大模型時代，算力需求呈現爆髮式成長，但高效營運AI算力卻面臨諸多的挑戰。

該如何調度資源？如何控製成本？如何保障算力平台穩定性與可用性？如何讓AI算力性能持續最佳化?

在大規模AI訓練場景下，算力資源調度堪稱一大難題。

一方面，不同AI任務對於算力需求各不相同；另一方面，如何在多使用者、多工場景在實現資源最優分配，避免算力的浪費，都是亟待解決的問題。

不僅如此，隨著算力規模的擴大，營運成本也會隨之攀升。諸如電力消耗、維運人員等各方面成本，都是企業面臨的挑戰。

另外，對於企業級AI應用來說，對算力平台穩定性提出了高標準、高要求。

然而，叢集規模擴大管理只會愈加複雜，硬體故障的風險就會增加，隨之帶來的是系統效能波動頻繁，資料安全隱患增加。

還有需要考慮的一點是，AI算力性能必須持續最佳化。這當中也涉及了多個層面，例如硬體協同最佳化、軟體架構改進、演算法效率提升等等。

為了應對這些挑戰，元腦算力工廠為企業提供了全方位的營運方案。

AI基礎設施管理平檯面朝向金融、通訊、網際網路等多行業的資料中心，可實現前所未有的一體化管理。

平台突破性解決了IT基礎設施管理與動力環境管理割裂的痛點，帶來了全新的管理體驗。

首先，它實現了智算中心全生命周期的統一納管，維運效率提升100%。

平台還創新實現了高密單排微模組2D/3D、核心製冷零件遠端調控等5大功能，安全性能飆升30%，為超大規模資料中心穩定高效運作提供重要保障。

作為一個深度學習開發平台，AIStation能夠為企業客戶提供強大的開發支援。

例如，統一管理和精細調度AI計算資源，全面整合計算資源、訓練資料和開發工具。

不僅如此，AIStation還提供了完整的AI軟體棧和敏捷標準化的開發流程，降低資源投入同時，並大幅提升開發效率。

基於系列平台的創新與整合，對於企業來說，算力的高效穩定營運也不再是難題。

既然有了這樣一個堪稱「黑科技」含量最高的解決方案，對於大模型時代下的訓練與部署，代表什麼？

當前，AI大模型正在經歷前所未有的進化：從單一語言模型走向多模態；突破長文字限制；引入MoE架構；強化學習能力不斷提升。

不僅如此，大模型進化Scaling Law仍在繼續，老黃還在CES大會上首次提出了AI時代三個Scaling Law。

「算力」堪稱是AI時代最大的痛。在國外，OpenAI因為微軟造GPU叢集的速度太慢而算力告急。在國內，企業則面臨著「模型算力太多元、產業生態太分散」這一難題。不過，最近新誕生的一款「AI神器」，令人眼前一亮。

如今，快速靈活地獲取算力可謂是剛需，就連OpenAI也不例外。

最近，The Information爆料：曾經約定微軟是獨家雲伺服器供應商的OpenAI，已經開始找其他家要買算力了。

原因就在於，微軟提供算力的速度太慢了！

OpenAI既想要微軟提供更先進、算力更強的GPU叢集，又要他們加快建設進度。

但微軟的計畫是，在明年年底之前為OpenAI提供約30萬塊輝達GB200。

於是，OpenAI找到了甲骨文，開始洽談一個預計可在2026年中獲得幾十萬塊輝達AI晶片的資料中心項目。

無獨有偶，在算力需求這一塊，國內智能算力的年複合增長率預計也將達到33.9%。

但在更進一步的大模型落地上，相比起只缺算力的OpenAI，國內的企業則面臨著更多的挑戰，比如算力資源管理困難、模型微調複雜等等。

模型算力太多元，產業生態太離散

根據賽迪研究院的資料，2023年中國生成式人工智慧企業採用率達15%，市場規模約14.4兆元。

另一方面據公開資料顯示，2023年全年，中國國內市場對大模型公開招投標的項目只有不到200家，金額5個多億；而到了2024年，僅上半年的項目就達到了486個，金額13個多億。

其中，軟體的佔比在2023年為11%，而2024年上半年卻只有5%。相比之下，大模型相關服務則從去年的17%暴漲到今年上半年的30%。也就是說，企業對大模型硬體和服務的需求，基本佔了90%以上。

對比可以發現，模型應用和市場趨勢之間，存在著巨大的鴻溝。

造成這一現象的原因，首先，就是大模型的幻覺問題。

大模型在預訓練階段所用的知識是通用為主，但在企業的專業領域中，如果還是以算機率來驅動的方式生硬輸出，就會答非所問。

第二，要實現大模型與行業場景的深度結合，應用開發流程複雜，應用門檻高。

微調、RAG都要分多個子步驟，應用開發還需要不同專業團隊長期協作，研發難度大，耗時也很長。

第三，在不同場景下，不同業務對模型能力有多樣需求，比如推理速度快、生成精度高、函數和程式碼能力強。

由於業務生成環境往往的多模並存，使用的算力資源也是多元並用的。多模和多元的適配問題，常需要軟體整個重構，難度大，成本高。

此外，在產業生態上，從晶片到軟體框架，再到模型本身，不同廠商的產品資料來源不同、技術標準不一，很難統一適配。

在本地化的大模型應用生成與落地中，這些挑戰會更加顯著。

如何才能讓企業（尤其是傳統企業）的大模型應用迅速落地？

這時，業內迫切地需要高效、易用、端到端的軟硬一體化解決方案，來支撐大模型行業落地。

如果有這樣一種開箱即用的產品，無論是模型本身、應用開發，還是算力問題，都能迎刃而解。

針對這些痛點，浪潮資訊推出了堪稱AI應用開發「超級工作台」的元腦企智EPAI一體機。

從算力、平台，到服務，提供了一站式大模型開發平台。

面向真實場景，平台提供了資料處理工具、模型微調工具、增強知識檢索工具、應用開發框架等。

而根據不同模型的能力特點，平台還支援呼叫多模態演算法和多元算力。

為了覆蓋不同的需求，一體機共有5種規格——基礎版、標準版、創新版、高級版、叢集版。

總的來說，元腦企智EPAI一體機具備了卓越的算力性能和極致的彈性架構，可支援延時RDMA網路和高性能平行儲存。

它們通過分佈式平行加速、混合精度計算、高性能算子技術，提升了模型的訓練和推理速度，實現應用高並行高能效處理、業務快速上線的需求。

在訓練穩定性方面，元腦企智EPAI一體機專為LLM訓練微調最佳化提供了斷點續訓能力，為大模型訓練保駕護航，最佳化升級算力池化與分配策略，支援按需彈性擴縮容。

接下來，分別看下五個一體機不同的特點。其中，創新版、高級版和叢集版均能同時支援訓練和推理。

面向模型推理的基礎版配備了8塊4090D GPU，性價比最高

標準版則搭載了基於Hopper架構的HGX模組化AI超算平台，8顆GPU通過NVlink高效互聯

創新版可以為多元算力提供深度適配

高級版專為那些對算力有極高需求的客戶而定製，並且提供了訓推全流程自動化開發測試工具鏈

叢集版，顧名思義就是機櫃級的訓推一體機——為那些業務規模較大，有分期建設、按需擴展需求的企業所定製的最高配

值得一提的是，在網路單元上，叢集版配備了浪潮資訊自研的「大模型專用交換機」——超級AI乙太網路交換機X400。

它最高能夠擴展到524,288張GPU的超大規模AI算力系統，而且憑藉AR自適應路由、端到端擁塞控制、亞毫秒級故障自癒等技術，性能提升至傳統RoCE網路的1.6倍。

由此，大型叢集實現了超高吞吐量、高可擴展性和超高可靠性。在LLM訓練性能提升同時，也大幅縮短訓練時長、降低訓練成本。

除了硬體上的創新之外，所有的一體機也全部預置了元腦企智（EPAI）大模型開發平台。

這種軟硬一體化交付，正是浪潮資訊一體機最大優勢所在。

有了元腦企智EPAI，浪潮資訊的一體機才能為企業客戶們，提供開箱即用的能力。

更具體地講，元腦企智EPAI是專為企業AI大模型應用，高效、易用、安全落地而打造的端到端開發平台。

從資料準備、模型訓練、知識檢索、應用框架等工具全面涉及，而且還支援調度多元算力和多元模型。

首先，元腦企智EPAI平台最核心的一部分是，平台底座能夠適配多元多模的基礎設施。

多模是指，支援多種模型和多種計算框架。

其中，預置了Yuan2.0、Baichuan2、ChatGLM3、Qwen1.5、GLM4、Llama3等7個基礎大模型，以及應用DEMO樣例。

還有10+計算框架（MegtronLM、DeepSpeed、Pytorch、Transformer、Llamafactory、Fastchat等），以及多種微調能力，如監督微調、直接偏好最佳化、人類反饋強化學習等。

同時，它還能廣泛支援主流基礎大模型結構，支援與使用者自研模型的靈活適配和對接。

而AIStation的作用在於，能夠對支援超數千節點的AI伺服器。

它可以進行異構算力叢集的統一池化管理，通過自適應系統將訓練底層的計算、儲存、網路環境實現自動化組態。

從開發、訓練、微調，再到應用部署，EPAI能夠實現全生命周期監管和異常全自動化處理。

而且針對不同業務場景，裝置故障自動容錯，保證業務時長高效、穩定運行。

一體機的簡單易用，便體現在了資料準備/生成、微調訓練、推理部署中，全部實現自動化。

從企業大模型開發部署業務流程來看，具備通用知識的LLM，就像剛畢業的大學生一樣，需要學習企業知識。

當前網際網路訓練資料遠遠不足，尤其是專業化的資料，而AI資料生成恰好能彌補這一弊端。

高品質資料，才是保障AI模型應用效果的第一要素。

那麼企業如何在種類多樣、規模龐巨量資料庫中，生成微調資料，並減少處理成本？又該如何將專業化資料為模型所用？

元腦企智EPAI平台通過高品質資料生成，攻破了難題。

企業僅需將原始資料上傳，元腦企智EPAI將其提取為文字txt，各種結構化/非結構化文件均可支援。

然後利用大模型生成問題答案對，也就是可以直接微調使用的資料。

最後一步通過「微調資料增強」讓AI再自動生成同類型、同主題高品質微調資料。

這一過程，還會對資料抽取後，進行向量編碼。

#EPAI 你可以在這裡找到鉅亨號中所有使用「EPAI」為關鍵字所發布的內容