推廣活動

黃仁勳把整個AI資料中心預製了!最快14天蓋出AI工廠

美股艾大叔
•
AI速讀
輝達於柏林 GTC 大會正式推出「全端 AI 工廠」概念,旨在將 AI 算力基礎設施「預製化」。透過 DSX POD 集裝箱方案,資料中心部署週期可從 6 個月大幅壓縮至 14 天,顯著降低資本開支與營收損失風險。硬體方面,Vera Rubin 平台實現 100% 液冷,提升能效並大幅節水。軟體層面,輝達發布 Nemotron 與 Kumo 系列模型及 OpenShell 安全框架,為企業級 AI 智能體提供從安全、知識到工具的完整底層支持。同時,輝達聯手 Agile 推出人形機器人參考設計,預計 2027 年提供。此舉顯示輝達正全面轉型為提供「端到端」方案的 AI 基礎設施巨頭。

“我們不能只是消費AI,而是應該生產AI。”

芯東西10月21日報導,今日,輝達GTC大會首次登陸德國柏林,輝達創始人兼CEO黃仁勳(Jensen Huang)進行了一場資訊量爆棚的主題演講,系統介紹輝達全端AI工廠架構,發佈DSX全端AI工廠參考架構與DSX POD計算集裝箱,還一口氣推出Nemotron檢索模型、Kumo結構化資料預測模型等多款開源模型。

在黃仁勳看來,AI絕非一般的軟體技術,而是一個製造業——能源驅動電腦,電腦組成AI工廠,AI工廠生產token,token來自模型,模型再整合進每一個應用,“我們不能只是消費AI,而是應該生產AI。”

圍繞AI的高效生產,黃仁勳的演講覆蓋AI基礎設施、企業智能體、開源模型、物理AI等核心戰場,涉及五大重點:

1、Vera Rubin平台:已實現全面量產,整機100%液冷,組裝一個節點的耗時從2小時縮短到5分鐘,72顆GPU可互連成一整顆巨型GPU。

2、DSX POD:把7個Vera Rubin機架連同線纜在工廠內預裝成一個集裝箱,運到現場即插即用,AI工廠的部署時間從4-5個月壓縮到約1個月。

3、OpenShell安全智能體參考架構:讓每個智能體在獨立沙箱中運行,按系統呼叫粒度管控權限,一旦發現越權行為可毫秒級切斷其與AI模型的連接。

4、開源模型與智能體工具包:幫智能體讀懂企業文件和資料庫的工具包Agent Knowledge Foundation、負責檢索的Nemotron Retriever模型系列、能預測業務走勢的Kumo模型系列等。

5、Agile ONE SN人形機器人參考設計:這款機器人計算硬體和軟體出廠前預裝完畢,開箱即可運行,大幅降低機器人研發門檻,機器人本體將於2027年初提供。

以下就是這場GTC大會的重磅發佈與主題演講乾貨:

01.

AI工廠:把算力做成預製菜

投產只要1個月

黃仁勳系統地介紹了輝達的全端AI工廠架構,強調輝達是唯一一家建構完整AI工廠的公司,涵蓋設計、部署和營運所需的一切。

支撐輝達AI工廠的硬體底座,是剛剛全面量產的Vera Rubin平台。黃仁勳現場對比了代際差異:Grace Blackwell平台組裝一個節點要2小時,線纜遍佈,僅實現80%液冷;而Vera Rubin平台實現100%液冷,組裝一個節點不到5分鐘。

NVLink交換托盤把72顆GPU連成一整顆巨型GPU,而旁邊的Vera CPU每時鐘周期可執行8條指令,搭載全球首個LPDDR記憶體子系統,片上互聯為全球最快,專為智能體會話的啟動與處理設計。

Spectrum-X則是全球首個共封裝光學(CPO)乙太網路交換機。光可以通過輝達與台積電聯合發明的COUPE工藝直接接入晶片,無需經過PCB和獨立光模組。這一方案提供512連接埠,單連接埠速率達200Gb/s,已全面量產。

有了技術,怎樣更快地把AI工廠部署到全球各地?對此,輝達打造了全端AI工廠參考架構DSX,覆蓋計算、網路、記憶體、軟體、電力和冷卻,從設計到營運作為一體協同最佳化。

DSX的第一步發生在動工之前:整座工廠先在數字孿生裡完成性能、功耗、用水和規模的虛擬驗證。

針對電力,MaxLPS端到端控制回路可以動態把電力引導至與負載需求匹配的地方,同樣的AI產出少用30%的電力。DSX Flex則可以靈活調節需求,提升電網可靠性,在電網需求激增時減少耗電,同時保持AI運行。

冷卻方面,Vera Rubin系統採用了閉式循環液冷,合適氣候下,冷卻液溫度可達45°C,實現高溫液冷。通過室外乾冷器,這套冷卻系統可以直接向空氣釋放熱量,不蒸發一滴水,在2GW規模下,每天節水5400萬升,相當於18萬戶家庭的日用水量。

為進一步提升建設效率,輝達發佈了DSX POD,這是一種已完成組裝、測試、管路預裝、預建構和預驗證的算力集裝箱,也是AI工廠的基礎建構單元,設計目標是加快歐洲基礎設施部署,大幅縮短從部署到生成首個token的時間。

集裝箱內部包含7個NVIDIA Vera Rubin NVL72液冷機架、1000萬個零部件,重約28000公斤,大致相當於20輛城市公車,可通過公路運往歐洲各地。

機架之間由20公里NVLink銅互連和3500根線纜相連,另有17公里Spectrum-X橫向擴展網路,全部在工廠內完成安裝、組裝和測試。

冷卻與電力方面,DSX POD用乾冷器替代傳統蒸發冷卻,場地就緒後以800V直流為機架供電。

集裝箱運抵現場後只需彼此連接,完成驗證和最終老化測試。黃仁勳在演講中說,採用這一方案後,建設方可以將算力從到場到投產的時間,從4-5個月壓縮到約1個月。

另據輝達新聞稿披露,借助DSX POD計算單元,合作夥伴可將AI基礎設施的部署時間從6個月縮短至最短14天。

黃仁勳算了一筆帳:一座1GW資料中心投資500億美元,年收入約400億美元,延遲3個月投產就意味著100億美元營收損失。如果能將這一過程壓縮,閒置的算力和資本開支隨之大幅減少。黃仁勳稱:“這是世界供應鏈的徹底轉型,將改變人們安裝和建設資料中心的方式。”

02.

企業AI:四大維度給Agent打地基

新自研模型系列亮相

如今,智能體已經是AI領域最炙手可熱的賽道之一,並且正在進入越來越多的企業級場景。

黃仁勳把智能體拆成五個要素:模型、執行框架(Harness)、沙箱、知識和工具,而輝達在其中的四個層面都提供了方案。

1、沙箱:給智能體裝上安全約束

在談怎麼用好智能體之前,黃仁勳先談了安全問題。他認為,業內阻止智能體濫用權限的方式,主要是通過“客客氣氣地求它”,也就是通過提示詞對智能體進行叮囑,但“安全不應該是一種願望,而是技術和工程。”

為此,輝達打造了OpenShell安全智能體參考架構:企業為每個智能體編寫策略,OpenShell在系統呼叫粒度上強制執行,覆蓋檔案訪問和網路連線。

OpenShell中,每個智能體運行在獨立沙箱中,外部的Harness可以由OpenShell統一收納。策略變更則需要經形式化驗證對照權限上限,智能體不會獲得超出預期的訪問權。

該架構在Vera Rubin上運行、搭載Vera CPU,並通過BlueField-4提供硬體隔離的安全監控:智能體的推理流量會經過BlueField-4上的Sentry安全軟體架構,一旦智能體計畫越權,Sentry會立即更新策略,切斷其與模型的連接並將其隔離。

2、模型:閉源、開源、定製,一個都不能少

談完安全,黃仁勳把話題轉向模型。他判斷:未來企業不會只用一個模型跑所有東西,最好的模型不管閉源、開源還是定製,統統都要用;而當工作涉及太多專有知識和獨門手藝時,企業會想持續增強屬於自己的智能,未來每家公司都會同時使用閉源模型和定製化的開源模型。

輝達在開源模型上已經投入了十年,並且不僅是開放權重,還包括配套資料和完整復現指令碼。這可以讓使用者知道模型的出處和權重分佈。

這些模型覆蓋多個領域:Nemotron是語言模型,Cosmos是世界基礎模型,GR00T面向機器人領域,Alpamayo面向自動駕駛,此外還有量子計算模型Ising和Earth-2物理AI模型。

黃仁勳說道:“這些開源模型未必個個都是前沿中的前沿,語言模型尤其如此。但借助定製化和生態夥伴,企業完全可以把它們打造成前沿模型,進而把自己的專有資料變成主權智能。”

現場他舉了一連串實證:AI21幫助客戶把Nemotron微調後超出了前沿能力;Base10幫CodeRabbit用自有資料後訓練Nemotron,達到前沿水平;Trajectory與Harvey用Nemotron後訓練出自己的前沿能力;Scale AI與Skydance做著同樣的事。

黃仁勳稱,從一個像Nemotron這樣較好的開源模型出發,用自己的資料做後訓練,針對你的場景達到超級智能,這是非常理性的做法。

3、知識:把企業知識喂給模型

模型有了,接下來是讓智能體接通企業的知識。輝達推出了Agent Knowledge Foundation,一套用於檢索企業資料的模型組合與軟體庫。

檢索鏈路由三款Nemotron Retriever模型組成:文件解析Nemotron Parse負責文件解析,可處理PDF等非結構化文件;文字嵌入模型Nemotron Embed把查詢與向量資料庫中的知識關聯起來;檢索重排序模型Nemotron Re-rank在多源召回結果中按相關度重排,找出最貼切的答案。

針對結構化資料,輝達此次發佈了結構化資料預測模型系列Kumo,讓企業資料庫也能預測接下來會發生什麼。該模型系列共有四款:面向表格資料的Kumo Tabular、面向關係型資料的Kumo Relational、面向時間序列的Kumo Time Series和面向預測任務的Kumo Forecast。

4、工具:CUDA-X已成皇冠上的明珠

在工具層,輝達的CUDA-X庫已經被用於支撐科學發現、工程、研究、設計與創意藝術等多個領域,黃仁勳說這些庫是輝達皇冠上的明珠。

黃仁勳強調,智能體時代非但不會終結SaaS工具軟體,反而會讓工具公司迎來史上最多的使用者,每一家工具公司都有機會變成AI公司、變成智能體公司,Cadence、CrowdStrike、達索系統、IQVIA等都已加入智能體的開發行列。

利用CUDA-X,同一台電腦可以運行流體動力學、粒子物理、量子化學、資料處理、光線追蹤等所有工具,較CPU原生運行提速一到兩個數量級。而在這些不同的行業,使用到的元件都類似:開放模型、CUDA-X加速工具、OpenShell安全執行階段,由輝達智能體工具包(Agent Toolkit)整合在一起。

03.

物理AI:聯手Agile推出機器人參考設計

物理AI是AI的下一波浪潮,黃仁勳稱,其中量級最大、落地最近的物理AI應用是汽車,而下一個重大產業,是人形機器人。

機器人的研發難點在於任務多樣、形態定製化,行業面臨碎片化,無法形成有效的飛輪。手機、PC的飛速進化都靠標準化形態,而人形機器人形態適配的場景足夠廣,黃仁勳認為其大機率會成為出貨量最大的機器人形態。

為此,輝達與Agile合作,基於輝達Isaac GR00T建構了Agile ONE SN人形機器人參考設計,把硬體與軟體整合一體,預裝電腦與軟體,開箱即可運行,覆蓋從資料採集到部署的全流程,將設定時間從數周縮短至數天,2027年初可提供。

醫療領域,西門子醫療正聯手輝達重新定義個性化放射治療:輝達AI模型最佳化治療計畫,CUDA加速劑量計算,Isaac for Healthcare模擬在精準靶向腫瘤的同時保護健康組織,Holoscan與IGX Thor即時響應患者的呼吸與動作,實現動態治療調整。

汽車領域,沃爾沃、大眾、Bolt正在輝達的自動駕駛平台Hyperion上建構自動駕駛汽車和Robotaxi車隊。

輝達還打造了專為物理智能汽車設計的全端安全系統NVIDIA Halos,已獲全球80%汽車製造商採用,Uber與Bolt計畫基於Halos和Hyperion建構超過20萬輛自動駕駛計程車。

同時,全新的Halos SAFE綜合自動駕駛安全評估框架現已向所有OEM和獨立軟體供應商開放。

04.

結語:不止晶片與軟體

輝達要把方案也打包給客戶

輝達,正在加速走向全端化。通過參考設計,輝達打入了多個行業腹地,覆蓋AI基礎設施建設、機器人等領域。

可以看到,輝達已經不僅僅滿足於提供晶片和軟體,而是把“怎麼做”的具體方案也一併給出,參與到行業的技術路線定義中去。

這套打法也折射出AI落地路徑的變化。對於行業來說,一套能直接運轉的完整方案,可能比單個模型或某塊晶片更有吸引力。(芯東西)