推廣活動

【GTC 2026】黃仁勳在輝達2026年柏林 GTC主題演講全文

RexAA
•
AI速讀
輝達執行長黃仁勳於 GTC 2026 宣布 AI 已進入「生產智能」的新工業革命時代。此次發表的核心在於 Vera Rubin 架構與 DSX 全端 AI 工廠,旨在將資料中心部署時間從數月縮短至數天。針對 AI 智能體(Agents)的爆發,輝達推出 OpenShell 安全沙箱,解決自主系統的權限與安全痛點。在硬體端,RTX Spark 將 1 PFLOPS 的強大算力帶入個人電腦,實現本地化智能體開發。最後,黃仁勳定義了「物理 AI」的未來,透過 Hyperion 標準推動無人駕駛車隊,並利用 Omniverse 數位孿生加速人形機器人的學習,旨在讓 AI 從數位世界全面滲透至物理製造與服務業。

智能就是這樣製造出來的:一種全新的工廠,生產構成AI基本單元的token。token開闢了新的前沿,將資料轉化為知識,再將知識轉化為行動。它們解讀自然的密碼,揭示潛藏的療法,在我們的城市周邊不知疲倦地導航,讓我們不斷前行。token從我們的動作中學習,提供我們需要的照護。為了保護我們所愛的人,它們看見我們看不見的事物,讓最穩健的雙手也有夥伴相助。每個由token激發的創意、每份共同取得的成功,都讓重要的事物觸手可及,幫助我們以前所未有的規模開拓新的天地。

我們要向天空乃至更遠的地方探索,共同邁出下一次偉大的飛躍,走向為全人類創造的光明未來。一切從這裡開始。有請輝達創始人兼首席執行長Jensen Huang登台。

歡迎來到GTC。很高興來到這裡。開始之前,讓我們把掌聲送給開場節目的主持人。他們聰明又可愛,今天上午討論了AI基礎設施、主權AI、AI安全和物理AI,涵蓋了大量內容。接下來,我們還要再向前邁進。

有件事很有意思:歐萊雅、Revolut、Spotify、默克、沃達豐、Zara、保時捷、雀巢和匯豐有什麼共同點?

它們都是歐洲公司,也都在與輝達開展AI合作。在座的每個人都參與到了AI生態之中,共同推動AI經濟發展。

我們在歐洲已經開展了33年的業務。大家可能不知道,輝達的首款晶片NV1,以及NV2和後來成為RIVA 128的NV3,都是在歐洲製造的。RIVA 128真正挽救了我們的公司,讓公司走上了發展軌道。

我們的首個合作夥伴是意法半導體。晶片在法國克羅勒製造,在馬耳他封裝,再運往世界各地。GeForce業務起步時,我們最大的客戶是一家公司。

這家公司叫萬得城。大家知道它嗎?大家可能還記得,萬得城當時有一個非常出色的個人電腦組裝理念,它也是我們最大的客戶。

2000年,德國公司艾爾莎將輝達帶入了工作站行業。如今,歐洲各地的工作站都在使用輝達技術,汽車開發從造型、設計、工程到模擬,各個環節都有我們的參與,甚至延伸到了汽車內部。2005年,是歐洲車企奧迪把我們帶入了車內計算領域。2020年,我們開始與梅賽德斯-奔馳合作開發自動駕駛汽車。

可以看到,在輝達33年的整個發展歷程中,我有大量時間是在德國度過的。

謝謝大家。我很高興今年能在這裡舉辦GTC。

過去1年,我們踏上了在歐洲建設新產業的旅程,這也是AI經濟的起點。僅過去1年,我們就在歐洲投資了近100億美元,涵蓋初創企業以及遍佈歐洲的大大小小的合作項目。

僅過去這1周,我從法國、英國前往瑞典,再來到柏林,沿途宣佈了對14家初創企業的投資。發展至今,我們在歐洲已經建立了超過12000項合作關係,大家都在朝著同一個目標努力。

電腦行業經歷了數十年的發展,如今,我們正處於新一輪工業革命的起點。

這張圖是電腦生成的。我給了它一個簡單的提示詞,讓它描繪AI如何推動新一輪工業革命,同時列出了幾家希望重點展示的合作夥伴。結果非常了不起:在AI的理解中,建設新產業就是生成token、生產智能,再將智能融入各行各業,推動新一輪工業革命。

那麼,工業革命在什麼情況下發生?

當一項新技術改變了我們製造事物的方法,以及我們能夠製造什麼時,工業革命就發生了。我認為,AI將在各個方面影響我們創造的一切,並讓我們能夠創造出全新的事物。

每個人都會使用AI,每家公司都會由AI賦能。它是數字智能,是這一切的基礎。每個行業都會因此改變,還會有新的行業誕生。從這個意義上說,AI就像電力一樣,帶來了一場新的工業革命。我們正處於這場革命的最初階段。

問題是,AI究竟是什麼?這是一個非常重要的問題。如果想參與創造未來,就必須理解AI是什麼。

這裡有一個簡單的框架。我們很早就觀察到,AI實際上是一種製造業。軟體技術是它的組成部分,但僅用軟體技術還不足以概括它。

AI當然運行在電腦上,但電腦的運作方式已經發生了根本變化。如今,電腦成為了機器系統、基礎設施和工廠的一部分,持續生產智能,並融入每個行業和應用。過去,電腦主要是供我們使用的工具。

可以用一個簡單的模型來理解AI:它像一塊5層蛋糕。能源為先進電腦供電,這些電腦構成AI工廠;工廠中運行的模型生成token,也就是數字智能,再將其融入各種應用。

要參與AI經濟,就要成為AI的生產者,消費AI只是其中一部分。在歐洲,我們完全可以做到這一切,而且已經開始行動。歐洲正在建設自己的AI經濟。圖中展示了這塊5層蛋糕,以及我們在各層建立的出色合作關係。

觀察這5層就會發現,它確實是一個新產業,因為每一層都在增長。我們正以非凡的速度創造就業、推動增長。

在歐洲,施耐德電氣、維諦技術、西門子能源等公司在全球都表現出色。輝達處於計算層,我們的計算技術被整合進正在歐洲各地蓬勃發展的AI工廠。

Nebius這樣的初創企業發展得非常好。一家名為Firebird的新公司正在中亞地區建設新的雲服務,非洲也有Cassava這樣的企業。

我預測,未來每家電信營運商,依託其10萬個站點、總功率約100 GW的分佈式電信基站和資料中心,都會演變成分佈式AI網路。

因此,AI基礎設施層正在逐步建成,其上才是AI模型層。必須認識到,在AI模型出現之前,基礎設施就必須先行到位。就像有網際網路之前,必須先有通訊網路;享受電力帶來的能力之前,必須先建設發電廠,讓住宅接通電力。

模型是接下來的一層。值得關注的是,模型層涵蓋語言、生物、化學、物理、機器人動作和動畫等領域,語言模型只是其中一類,而且模型規模也各不相同。

不同的行業將由不同模態的AI模型驅動,這些模型又會融入AI原生企業和初創企業。歐洲有大量這樣的公司。

歐洲的AI經濟已經起步,而且正在加速發展。這很令人振奮。輝達在其基礎層發揮作用,多數人認為我們提供的是GPU,這一點確實如此。

我們成立於1993年,從圖形晶片起步,逐步發展出GPU和可程式設計著色GPU。後來,我們加入CUDA加速能力,重新定義了計算,並由此推動了AI的發展。如今,輝達的業務又進一步拓展了。

輝達如今提供的是一個全端、端到端的完整AI工廠平台。

這些年來,我們的技術覆蓋範圍不斷擴大。首先是GPU計算,最新一代是Vera Rubin;然後是將GPU連接成一個巨型GPU的NVLink交換機,以及我們最近推出的Vera BlueField 4計算平台,稍後我會進一步介紹。

還有我們的乙太網路解決方案Spectrum-X,它讓輝達成為了當今全球最大的網路裝置公司。除此之外,還有用於文字和token生成的解碼加速器Groq 3、Vera BlueField 4記憶體加速,以及Vera RTX計算。後面我都會談到。

這些技術共同構成了建設AI工廠所需的技術版圖。但要讓它們運作起來,還必須有軟體。

首先是運行AI工廠的系統軟體。這些系統規模龐大。一座1 GW的資料中心,也就是一座1 GW的AI工廠,造價約500億美元。土地、樓體外殼、計算裝置、網路、記憶體、供電和冷卻系統,全部連接在一起,組成佔地數英畝的AI工廠。

僅僅讓它啟動並正常運行,本身就是一項壯舉。要讓工廠運轉、投入使用並生產token,需要數量驚人的軟體,這是一項非凡的工程成就。

輝達提供完整的全端軟體。在此之上,是我們稱為CUDA X的庫,其中包含了公司的演算法。

從本質上說,輝達是一家演算法公司,我們設計晶片來加速這些演算法。其中一個庫就是cuDNN,許多研究人員認為,它引發了現代AI的大爆發。

cuDNN之於AI,就像SQL之於全球資料庫行業。它是一種面向特定領域的語言,也是一套面向特定領域的庫。就像OpenGL和DirectX推動了即時電腦圖形的發展,cuDNN推動了AI計算產業的發展。此外,我們還有350個其他庫。

這些庫是我們公司的核心瑰寶,覆蓋計算光刻、訊號處理、圖像處理、資料處理、粒子與流體計算、稀疏求解器等廣泛領域。在座的許多人已經將這些庫接入了各自公司的業務。

我們正是通過這些庫開拓新市場,讓輝達的技術與各種演算法連接,使大家能夠以驚人的速度開展計算。

最後看右側,是模型。這是新的軟體,也是新應用的引擎。它們位於CUDA X庫之上,與這些庫協同工作。輝達一直在多個領域開發這樣的模型。

這些模型帶來了新的機會,稍後我還有很多內容要介紹。

回顧輝達的各代架構,AI時代從Pascal開始。當時,我們推出了名為DGX One的新系統,它是全球首台AI超級電腦。我在10年前發佈了它,並將首台裝置交付給OpenAI,讓他們開始運行計算任務。

此後,我們從Pascal發展到Volta、Ampere,再到許多人第一次聽說輝達時的Hopper,然後是當前一代Blackwell,以及如今已經全面量產的Vera Rubin。

這是6代架構,每一代都在推動技術進步。在過去10年裡,我們將AI性能提升了100萬倍。

退後一步想一想,如果按照摩爾定律發展,10年時間能帶來多少提升?前5年提升10倍,後5年再提升10倍,10年合計提升100倍。

而在同樣的時間裡,輝達通過極致協同設計,在每一類電腦、軟體棧的每一層進行創新。我們最佳化演算法、創造新演算法,同時設計能夠加速這些演算法的架構。

這種覆蓋整個領域的協同工作,就是我們所說的極致協同設計。它讓我們將AI性能提升了100萬倍。我們還會繼續這樣做。

這就是輝達今天建構的技術,也是我們幫助歐洲參與AI生態和AI經濟的基礎。

最初的Pascal、Volta、Ampere和Hopper,各代架構都以GPU為核心。我們發明了新的HGX形態,隨後,Blackwell帶來了全球首個機架級計算系統,稍後我會展示。

機架級計算把整套系統變成一台巨型電腦、一個巨型GPU。現在,借助Vera Rubin,我們正在把處理範圍擴展到完整的智能體,覆蓋模型和大語言模型之外的工作。

稍後我們還會回到這張幻燈片。請記住,智能體需要思考,這正是模型發揮作用的地方。感知、推理、規劃和工具使用,都依託大語言模型完成,模型就是為這些任務設計的。

但智能體還需要一個稱為harness的運行框架,可以把它理解為數字智能體的外骨骼。就像我們有大腦,身體的其他部分承擔執行功能。智能體的這套外骨骼負責組織工作,使其能夠呼叫活躍記憶、工作記憶和長期記憶,並啟用工具。接下來是第3部分。

第3部分是一台處理知識的電腦,專門用於資料處理。最後,還有一台專門運行CUDA X庫的電腦,負責執行工具。這些電腦共同構成了完整的智能體系統。

Vera Rubin已經全面量產。大家看,這是我們打造的全球首台沒有線纜、沒有電線、採用100%液冷的電腦。它非常精巧,可以這樣抽出來。這就是一台Vera Rubin電腦,裡面有2個GPU。

過去,組裝一個Grace Blackwell節點需要2小時。看到它就明白了,到處都是線纜和電線,液冷比例為80%。如今,Vera Rubin採用100%液冷,組裝時間不到5分鐘。

這是一項非凡的成就,意味著製造周期得到改善,可靠性大幅提高,性能也顯著提升。

這是NVLink交換機托盤,它負責將72個GPU連接起來。目前這裡面有4個GPU。NVLink可以把72個GPU連接成一個巨型GPU,每個GPU的算力為20 PFLOPS,72個共同組成一套龐大的系統。

謝謝。這是我們全新的Vera電腦。

沒關係,大家放輕鬆,讓她有機會說話。每個人都有表達的機會,不過今天請先讓我講完。

我稍後會和你們談。這些都是重要的問題,但請先讓我完成主題演講。

這個會場已經坐滿了。全球還有100場同步觀看活動,現在有15000人正在觀看。所以,我會繼續完成演講。最後有一些非常有趣的東西想展示給大家。

大家先忍耐一下,讓我給你們上一會兒課,後面就有好玩的內容。這就是我們全新的Vera電腦。

Vera CPU是一款非常強大的CPU,每個時鐘周期能夠執行8條指令。它搭載了全球首個LPDDR記憶體子系統,可以同時實現高性能、極高頻寬和出色的能效。

它的片上互連是全球所有晶片中最快的,因此資料處理性能、智能體會話的啟動和處理性能都極為出色。它就是專門為這些任務設計的。這是我們的Vera電腦。

旁邊這台是Spectrum-X,採用了全球首創的共封裝光學技術。大家可以在這裡看到,我來展示一下。

舞台上有些地方會向下陷,有些地方可以走,我不太確定分別是那些。所以,如果我突然消失了,大家就知道那是意外,和特技表演無關。

大家看,這些是雷射器。雷射經過光學元件,直接連接到我們的晶片,採用的是我們與台積電共同開發的COUPE工藝技術。矽光子元件直接貼合在晶片上。

如果採用其他方式,這些地方就都會是印製電路板,而印製電路板的傳輸能力遠遜於光纜。

因此,我們現在能夠讓速率極高、質量極高的資料訊號直接進入晶片,連接到收發器,再直接進入光學元件,無須經過印製電路板。

這是全球首款CPO產品,已經全面進入量產。它擁有512個連接埠,每個連接埠的速率為200 Gb/s,是全球最先進的乙太網路交換機。我們為此感到非常自豪,謝謝大家。

這些技術賦予我們處理智能體思考過程的能力,包括運行大語言模型和智能體運行框架。

此外,還可以通過資料處理來處理智能體的知識,並通過加速計算來運行各種工具。這些基本上就構成了智能體的工作負載,稍後我會展示更多內容。

Vera Rubin已經全面量產,性能極為出色。正如我剛才所說,每一代產品都通過極致協同設計,實現遠超常規預期、遠超摩爾定律所能帶來的性能提升。

大家知道,摩爾定律實際上已經基本走到了盡頭。因此,我們需要這種極致協同設計理念,從晶片到系統,從系統到系統軟體,再到演算法,最終覆蓋整座AI工廠。

Vera Rubin在Blackwell的基礎上又邁出了一大步。在智能體和大語言模型處理方面,Blackwell的速度約為Hopper的30倍。僅僅2年,Vera Rubin的性能又達到了Blackwell的30倍。

接下來看看,Vera Rubin如何構成一座DSX全端AI工廠。

AI正在推動有史以來規模最大的基礎設施建設。工廠規模龐大,投資金額巨大,我們必須把它建好。僅有優秀的晶片,還不足以建成優秀的AI工廠。輝達DSX是與全球領先基礎設施企業共同創新打造的全端AI工廠參考架構。

計算、網路、記憶體、軟體、供電和冷卻被作為一個整體系統協同設計,從設計到營運的全流程都經過最佳化。

DSX從數字孿生開始,在施工之前,就先在虛擬環境中驗證性能、功率、用水和規模。ETAP將裝置設計轉化為可用於模擬的資產。達索系統通過基於模型的系統工程,將機架設計與設施設計連接起來。施耐德電氣模擬配電和液冷。Jacobs在Omniverse數字孿生環境中整合這一切。西門子評估熱、聲學和電網影響,Procore支援施工階段的規劃。

功率決定了AI工廠的產出上限。DSX Max-Q是一個端到端控制閉環,能夠動態調配電力,使其與工作負載需求匹配。

在產出相同的情況下,它可以降低30%的耗電量。

DSX也重新設計了冷卻方式。輝達Vera Rubin系統採用閉環液冷設計,冷卻液溫度最高可達45攝氏度。在氣候適宜的地區,室外乾式冷卻器可以直接將熱量釋放到空氣中,無須通過蒸發消耗水。在2 GW規模下,DSX每天可以節約5400萬升水,相當於18萬戶家庭的日用水量。

但建設一座AI工廠可能需要數月。在投入運行之前,它無法生產任何token。

今天,我們宣佈推出輝達DSX Pod,將這套全端平台整合成在工廠製造的整合系統。它以Vera Rubin NVL72液冷電腦架為基礎,通過17公里的Spectrum-X線纜連接,組成一個Vera Rubin DSX Pod。

Vera Rubin DSX Pod在工廠完成整合、全部布線和測試,然後裝入可運輸的集裝箱交付。乾式冷卻器替代傳統蒸發冷卻系統,800伏直流電接入機架,實現高效供電。一旦現場公用設施準備就緒,預計現場部署時間就能從數月縮短至數天。

輝達DSX AI工廠從設計之初就兼顧責任。如今,借助DSX Pod,AI工廠能夠以閃電般的速度建成,每瓦電力產出更多智能,更快生成首個token。

謝謝。2016年,我們推出了全球首台AI超級電腦,當時它只有一個GPU節點。3年前,我們推出了Grace Blackwell NVLink 72機架級電腦。

這2次,我們都重新設計了電腦、軟體和運行方式,也重新設計了供應鏈。以NVLink 72為例,原本需要在現場組裝的整個機架,被我們轉移到了供應鏈內部完成組裝。實際上,我們實現了超級電腦的規模化製造。這就是我們能夠如此快速推進的原因。

因此,我們能夠同時支援全球數百個資料中心的建設。如今,全球每家電腦製造商都在製造NVLink 72。我們生產計算裝置的規模,過去聞所未聞,甚至難以想像。

即便如此,把這些系統運到現場後,仍然需要花費數月進行組裝。剛才大家聽到了,僅用於scale-out計算的Spectrum-X連接,就需要17000公里……這裡說的是17公里,規模非常驚人。

假如我們把這些工作全部放到供應鏈內部完成,把所有裝置組裝起來、運行起來,並確保它們完全正常,會怎樣?

完成合格驗證和老化測試,到發貨時,整套系統就已經能夠正常工作。這樣一來,布線工作量和現場組裝工作量都會大幅減少。

還有更重要的一點:將這些工作轉移到供應鏈內部,會顯著減少資料中心內閒置的計算裝置。

請記住,每座1 GW的資料中心造價為500億美元,預期每年能夠產生數百億美元的營收。我們剛才提到,這套基礎設施每年可以產生400億美元營收。

如果僅僅延遲3個月,就是50億美元……抱歉,應該是多少?是100億美元營收。100億美元的營收損失足以讓任何人焦慮。

因此,將這些工作轉移到供應鏈內部,就能縮短從計算裝置到貨、安裝,到正式生產token的時間。我們認為,這一過程可以從數月,大約4至5個月,縮短到約1個月。

這是對全球供應鏈的全面改造,將改變人們安裝裝置和建設資料中心的方式,希望也能因此加快整體推進速度。

閒置算力和閒置資本支出造成的浪費將減少,大家的盈利能力也會提高。

這就是將NVLink 72擴展為大型機櫃系統的DSX Pod,也是輝達計算平台的下一步。

你製造什麼,以及如何製造,決定了你的獨特之處。歐洲也是如此。你們掌握的專業能力讓你們與眾不同:設計機器、營運工廠、發現藥物,擁有非凡的工藝與專長。這些專業能力構成了你們的獨特價值。

輝達的獨特之處主要有2點。第1點,我們的架構是唯一具備通用性的加速計算架構。我們的專長覆蓋廣泛,並不限於Transformer這樣的單一演算法。

凡是能夠平行處理的任務,都是我們專注的領域。它可以是流體與粒子計算,也可以是量子計算、量子化學、圖像處理、資料處理、結構化資料處理或向量資料處理,以及其他各種處理任務。

我們在這個領域投入了很長時間,輝達的架構也已經保持了25年的一致性。因此,我們服務和加速的演算法、領域及行業數量都大幅增長。

龐大的裝機基礎、通用架構、對這一架構的持續投入,以及與全球各行業的合作,讓輝達的架構幾乎無處不在。接下來是第2點。

第2點,是我們的實現方式。我們擁有自主開發的架構,如今還將其建構成完整的全端AI工廠。

全球有許多公司想設計自己的晶片,但大多數公司只是希望部署AI基礎設施,然後在其上運行業務。設計晶片、建構超級電腦、編寫軟體,對全球大多數公司來說,都遠遠超出了自身計畫。

因此,我們將這2個理念結合起來,建設全端AI工廠。這讓我們能夠進入原本無法進入的市場,也正因為如此,我們才能與這裡如此多的公司合作。接下來,我逐一介紹。

先從雲服務提供商說起。多數人認為,當今絕大部分AI都集中在這裡。但在演講開頭,我已經列舉了許多其他類型的公司。

雲服務提供商仍然是全球計算市場的重要組成部分。同時,全球各地也在不斷湧現AI原生企業,這裡就有很多。

還有新型雲服務商。每個地區都希望參與AI經濟,確保自身擁有的寶貴資源和能源能夠服務於本地區的企業。例如,歐洲的法國企業Mistral,以及同樣位於歐洲的Nebius。歐洲有很多公司正在建設新型雲服務。還有為全球企業製造電腦的OEM和ODM廠商。

還有AI實驗室。去年,我們談論的幾乎都是OpenAI。今天,我們談論OpenAI和Anthropic,也談論非常出色的Meta Muse、xAI Grok,當然還有Gemini。如今,眾多AI實驗室都在參與最前沿的研發。

接下來這一點非常重要,也是AI最終取得成功的關鍵。要讓歐洲從AI中受益,真正建立AI生態和AI經濟,就需要所有終端市場、所有終端行業採用AI,並利用AI取得成功。

例如,在汽車行業,我們正在開發自動駕駛汽車。

在製造業,我們利用機器人改變生產方式;在醫療健康領域,我們改變新藥發現方式;金融服務業也是如此。所有這些行業的每家公司都必須成為AI公司。

憑藉剛才介紹的CUDA,以及我們建構電腦的方式,輝達具備獨特的能力,可以服務幾乎每一個細分市場。一套架構,覆蓋眾多市場。

這些基礎設施規模龐大、成本高昂,我們必須讓它們盡快發揮最大的生產力,同時具備通用性。從AI發展的起點開始,你就可以把它們用於各種工作負載,覆蓋資料處理、訓練、後訓練、推理和智能體處理等每一步。

這套架構還能覆蓋化學、物理、語言等各種類型的AI,以及每個行業和它們使用的演算法。

因此,輝達架構能夠靈活適用於不同用途。我們持續創新,不斷更新軟體。龐大的裝機基礎也帶來了極為豐富的軟體生態,使這些架構能夠長期保持價值。通用、耐用、高效,這就是其特點。

有了這些基礎設施,我們要用它們做什麼?過去1年,AI發生了轉變,開始產生實際生產力。其中一個重要時刻出現在年初,我們介紹了OpenClaw。它提出了開源智能體的概念,推動了如今我們在全球看到的這一趨勢。

智能體能夠推理、迭代和使用工具,因此會消耗大量token。但它們也由此變得實用,於是更多智能體被開發出來。它們越來越有用,使用者也越來越多,而思考又需要消耗大量token。

因此,token消耗量急劇上升,GPU需求也隨之大幅增長。

承載這些處理工作的就是這裡展示的智能體。一個智能體有5個組成部分。第1部分是語言模型,運行在GPU上,生成供智能體使用的token。另一個部分,就是我稱為外骨骼的OpenClaw運行框架。

運行框架位於沙箱內部,沙箱將其與系統的其他部分隔離。這是一個非常重要的概念,稍後我會繼續講。

智能體的5個組成部分分別是:模型、運行框架、承載運行框架的沙箱,以及知識和工具。

在討論如何讓智能體變得實用之前,最重要的是確保它安全。智能體是自主系統,能夠訪問檔案、資源、網路和工具。

我們必須確保賦予這個自主系統的權限儘可能少,並對其進行持續監控。

我們推出了一款出色的新產品、新平台,名為OpenShell。它來得正是時候。這是一個安全執行階段,能夠提供我剛才介紹的能力,同時還配有額外的硬體監控機制。在進一步解釋之前,我們先看一段視訊。

企業正準備部署數十億個AI智能體。為了發揮作用,它們需要推理、規劃、使用工具、訪問資料並相互協作。

如今,阻止智能體濫用這些能力,往往只是靠禮貌地提出要求:請不要刪除任何內容,請不要向主分支推送程式碼,請不要碰我的SSH金鑰。這就是“請不要”的方法。

但希望無法保障安全。安全需要技術和工程來實現,僅有願望還不夠。輝達OpenShell和Sentry將這一理念付諸實踐。你可以制定策略,規定每個智能體能夠接觸那些資源,OpenShell則在系統呼叫、檔案訪問和網路連線的粒度上執行這些策略。

形式化驗證會逐項檢查策略變更,確保其不突破你設定的權限上限,讓智能體始終無法獲得超出預期的存取權。

這就像早期網際網路曾經病毒氾濫,直到瀏覽器開始嚴格限制網頁能夠執行的操作。OpenShell為智能體提供了同樣的保護。

權限控制在智能體之外執行,將智能體原生安全機制引入基礎設施。大語言模型內部的護欄只是防護的一部分。

每個智能體都運行在獨立隔離的沙箱中,無法直接連線到網路。每個出站網路請求都必須經過沙箱外部的監管元件。監管元件會根據策略檢查操作,未經允許的操作將被拒絕。

金鑰留在沙箱外,由監管元件保管,只有請求發往獲准的端點時才會被加入。

即使智能體遭到入侵,也無法洩露它從未持有的金鑰。

閘道器是控制平面,監管元件負責作出決策,沙箱容納智能體,策略驗證器則檢查擬議策略是否超出權限上限。OpenShell將Linux核心隔離與執行階段策略執行結合起來。

輝達Sentry提供了一個可選的額外保護層,位於主機之外,與智能體隔離。Sentry運行在輝達BlueField 4上,在硬體隔離的可信域中監控智能體活動,並執行安全策略。

由於智能體的推理流量會經過Sentry,如果智能體計畫執行非預期操作,Sentry就會立即更新策略,切斷它與模型的連接,在毫秒級時間內將其隔離。它還會保留可識別篡改痕跡的記錄,供維運人員核驗,用於檢測、調查和響應。

OpenShell採用Apache 2.0許可證開源,從邊緣到雲端,只要有智能體運行的地方都可以部署。只需2條命令即可開始使用:安裝命令列工具,建立沙箱。

然後就能運行你喜歡的智能體。智能體能夠發揮多大作用,取決於你賦予它多少存取權。OpenShell和Sentry讓這些權限始終處於你的控制之下。這就是我們同時推進AI能力和安全的方式。

智能體是自主系統。我們必須開發極為安全的技術,確保能夠安全地開發和部署它們。

令人振奮的是,OpenShell發佈後,從前沿模型實驗室到作業系統公司、網路安全公司和平台公司,全球幾乎所有主要企業都已宣佈採用它。看到這一點非常令人高興。

原因在於,這項技術恰好在我們希望向全球部署智能體的時刻出現了。

請記住,全球各家公司也需要採用OpenShell,這樣才能接入這些智能體,讓它們在公司內部自主運行。提供智能體服務的企業在部署時使用OpenShell,只是其中一部分。

智能體的每個能力層級、你交給它的每項任務,以及使用它的每個人,這些因素的不同組合,都需要賦予智能體不同等級的權限。

每次啟動智能體時,權限都可能不同。因此,權限管理、策略執行和監控都必須動態進行。從這個角度看,OpenShell具有革命性意義。

我很高興宣佈,Anthropic與輝達正在合作開發Claude OpenShell智能體。

首先,如何使用這些運行框架?你可以使用OpenClaw、Hermes、OpenHands,也可以基於LangChain Deep Agents建立自己的框架,或者直接用Python編寫。建構智能體運行框架有很多方法。

現在,這些框架都可以放進OpenShell的安全沙箱中運行。

接下來談模型。未來,你應該使用各種模型。我們會為不同任務採用最合適的模型,單一模型無法包辦一切,其中也會包括閉源模型。

無論是開放模型還是定製模型,你都會用到各種模型來完成工作。有些工作比較通用,通用AI就能做得非常出色。但有些工作涉及大量專有知識和專業能力,你會希望持續增強這方面的智能。未來,每家公司都會同時使用封閉模型和經過自身定製的開放模型。到這場演講結束時,你會發現,建構自己的AI其實並不難。當然,這要從模型開始。我們一直致力於推進開放模型,開拓新的機會,讓人們能夠建構自己的定製AI。

Nemotron 面向語言任務,Cosmos 是我們的世界基礎模型。在人形機器人領域,我們處於前沿。Alpamayo 面向自主導航,我們在這個領域也處於前沿。我認為,在量子與經典混合計算領域,我們同樣處於前沿。當然,還有 Earth-2。在物理AI領域,我們也處於前沿。我們為所有這些領域提供模型,並持續推進研發。我們已經做了10年,今後也會一直做下去。我們完全開放模型,同時提供相關資料,讓你瞭解我們所建立模型的資料來源,還提供復現模型所需的指令碼。

因此,你能從我們這裡獲得整套建構方法和資料,用來重建這些開放模型,瞭解它們的來源,並充分信任它們。開放的模型權重也包含在內。這些模型未必處於最前沿,尤其是語言模型。但通過定製,並與我們生態系統中的合作夥伴協作,你可以把它們提升至前沿水平,從而將自己的專有資料轉化為自主掌控的智能。這裡有一個案例:a 21(原文名稱不清)幫助 Alice 將 Nemotron 打造成能力超越前沿水平的模型。另一個案例是 Base Ten 幫助 CodeRabbit,使用自身資料對 Nemotron 模型進行微調。

微調後的模型達到了前沿水平,這就是 Base Ten 和 CodeRabbit 的案例。這裡還有 trajectory 與 Harvey 的案例,同樣使用 Nemotron,通過後訓練打造出自己的前沿水平能力。Scale 與天舞也在做同樣的事情。這樣的案例還有很多。關鍵在於,你可以從 Nemotron 這樣能力出色的開放模型起步,使用自己的資料,針對具體用例進行後訓練,進而實現超級智能。這是非常合理的做法,而且所需技術如今都已具備。這裡還有 Palantir 與坦帕綜合醫院的案例,這樣的例子不勝列舉。我們擁有豐富的合作夥伴生態,可以為你提供幫助。這些公司都很出色,來自世界各地,能夠與你合作。只提其中1家,恐怕就會得罪其他公司。

那我就得坐在這裡,把它們全部介紹一遍。我喜歡每一家。首先是運行在安全沙箱 OpenShell 中的智能體運行框架,其次是 Nemotron 大語言模型。這是你所需的前2個組成部分。但最終,讓這些智能體成為超級智能體的關鍵,是讓它們能夠訪問公司的知識。這一點非常特別。我們將它稱為智能體知識基礎,由我們整合的世界一流庫和模型組成,幫助你轉化公司的資料。資料可能存在於各類資產中,也可能以非結構化格式和文件的形式存在,因此你需要AI能夠讀取PDF和各種非結構化文件。資料也可能是資料庫中的結構化資料。

我們擁有所需的庫和工具,可以幫助你從公司資料中提取含義、形成理解。逐一來看,Nemotron parse 具備世界一流水平,位居排行榜前列。Nemotron 的嵌入模型將查詢與向量資料庫中的知識關聯起來,同樣位居排行榜前列。Nemotron 的重排序模型則負責處理多個來源:查詢可能關聯到不同來源中的不同資料片段,模型會將它們彙總,並根據與你的需求的相關程度排序。此外,你還需要根據結構化資料庫預測接下來可能發生什麼。例如,你收到一則通知,得知某家供應商將出現供貨短缺或延遲。這條資訊很可能是文件中的非結構化資料。

公司訂單的資訊則很可能保存在結構化資料庫中,例如SQL資料庫。要預測這些訂單會受到什麼影響、那些訂單會缺貨,以及延遲多久,就可以使用 cuML。接下來,為了確定用什麼替代,你可能會使用向量資料庫搜尋,找到替代零部件的工程文件。所有這些庫和資料處理能力,共同構成了你的知識基礎。至此,你已經為AI配備了專有資料和專有知識。

最後一部分是工具,也就是各行各業開展工作所需的工具。輝達一直在開發 CUDA X。對在座大多數人來說,在AI興起之前,我們討論的都是如何加速模擬器、求解器、資料處理引擎,以及各種面向特定領域的庫。這些工具用於各個科學領域的科學發現,也用於工程、研究、設計、建構和藝術創作。支撐這些工作的核心就是我們的 CUDA X 庫,而這些庫的本質是演算法。正如大家所知,演算法很美。讓我們來看一看。

數學很美。CUDA-X庫是我們公司的皇冠明珠,原因就在這裡。

當你建構AI助手時,它可以是實驗室助手、研究助手,也可以是與你共同設計、共同創作的夥伴,最終與你一起創造東西。讓這些智能體發揮作用、真正完成工作的,是工具。

現在,我們已經有了能夠讓智能體理解資訊、進行推理和規劃的模型。智能體可以反覆行動、使用工具,直到完成任務。但歸根結底,還是要靠工具,而我們已經在這些工具上投入了很多年。

剛才我展示的右側那台電腦,可以運行所有這些工具,無論是流體力學、粒子物理、量子化學、資料處理,還是光線追蹤。

所有這些工具都能在同一台電腦上運行。與直接在CPU上運行相比,這台電腦可以將處理速度提高到10倍、50倍乃至100倍。CUDA和CUDA-X工具為智能體提供了完成專業工作所需的工具。看到其他人如何使用它們,非常令人興奮。我們來看一下。

這就是智能體背後的關鍵。最終,智能體需要使用工具。當然,軟體程式設計是最早應用智能體的領域之一,在這個領域,編譯器或Python基本就夠用了。但未來,隨著智能體承擔越來越多有用的工作,我們需要為它們提供更多工具。

這裡有幾個例子。Lila Sciences正在打造實驗室助手,使用輝達的BioNeMo模型來理解蛋白質和細胞,並生成蛋白質和化合物。在藥物發現中,他們使用BioNeMo和CUDA-X工具。

西門子正在建構工廠智能體,使用輝達Cosmos,也就是我們的世界基礎模型。

這個模型能夠理解物理世界,並與CUDA-X工具配合使用。另一個例子是達索系統,它正在打造虛擬夥伴,使用輝達的語言模型Nemotron和CUDA-X工具。來看看它們如何實際工作。

最聰明的科學家仍然需要實驗室。最優秀的工程師仍然需要模擬器和求解器。AI智能體也一樣。

智能體由5個基本組成部分構成:模型負責感知、推理和規劃;編排框架負責協調;智能體知識基礎利用企業的結構化和非結構化資料,為智能體提供上下文;工具讓智能體能夠模擬、實驗和行動;輝達OpenShell控制智能體可以訪問什麼、執行什麼。

企業可以從前沿閉源模型入手,也可以使用輝達Agent Toolkit定製開放模型。任何公司都可以將自身的知識和專長轉化為定製的超級智能體。來看3個例子,首先是Lila Sciences。

目標是設計一種治療B細胞淋巴瘤的療法。基於輝達NeMo建構的Lila Iris智能體,將這一目標轉化為實驗計畫。

在計算干實驗室中,Lila智能體使用輝達BioNeMo Agent Toolkit,以及用於蛋白質設計和RNA最佳化的BioNeMo模型,開展數百萬次虛擬實驗。最有希望的候選方案隨後進入Lila的AI科學工廠,由借助輝達Omniverse和Cosmos開發的自主機器人及儀器進行製備和測試。

結果反饋給Iris,用於指導下一輪設計和實驗,這個循環持續進行。

在西門子埃爾朗根電子工廠,目標是讓新產品投入生產。Process Preparation X智能體使用輝達Cosmos生成虛擬原型和合成資料。

隨後,在生產開始前訓練並驗證檢測模型。基於輝達Factory Operations Blueprint建構的Intelligence Center X智能體,利用訂單、物料供應和產線配置來推薦生產計畫。

Digital Twin Composer使用輝達Omniverse庫,結合物理模擬和即時工廠資料,在調整落實到工廠現場前驗證這些計畫。

在達索系統平台上,工程師需要將大眾高爾夫的車門設計調整為適用於途觀的設計。Aura和Leo使用輝達Nemotron,對工程要求進行推理。編排框架協調各個專業子智能體,並在規劃、設計和模擬過程中持續保留上下文。Aura使用ENOVIA,根據車輛尺寸規劃工作。

規劃還需要考慮重量限制和其他工程要求。Leo設計智能體選擇一個相容的高爾夫車門設計,再使用CATIA將其重新塑形,以適配途觀。

一個Leo模擬智能體使用經輝達CUDA-X庫加速的SIMULIA測試不同設計方案,發現了振動問題。結果隨後反饋給設計智能體,供其改進。工程師審查改進後的設計,並選出最終方案。

目標不同,專業知識不同,基本組成部分卻相同:開放模型、CUDA-X加速工具,以及開放、安全的運行環境,由輝達Agent Toolkit整合在一起。

有人說,AI來了,軟體和工具公司的時代就要結束了。實際情況恰恰相反。AI的到來,將讓這些工具擁有更多使用者。

我們多年來創造的工具,使用者數量將超過以往任何時候。每一家工具公司都將成為AI公司、智能體公司。它們會提供經過專門最佳化、極其擅長使用自家工具的智能體,同時繼續提供工具本身。

楷登電子(Cadence)、CrowdStrike、達索系統、艾昆緯,以及幾乎所有企業軟體公司,都在建構智能體。我們很高興能與它們合作。

建構智能體並沒有那麼難。它有4到5個組成部分,包括模型和編排框架,兩者都有封閉和開放版本;還有OpenShell安全運行環境。最重要的是知識和工具,而這些知識和工具屬於你們,是你們的專業能力。

這些現在都可以實現,稍後我會展示更多內容。在此之前,我們先談談物理AI。

這確實是AI的下一波浪潮:能夠理解物理世界,並對其進行推理的AI。物理世界多種多樣,非常複雜,存在極其廣泛的長尾情況。AI需要理解這些情況,並使用合適的工具與物理世界互動。

談到物理世界,人們通常會想到機器人。但我最喜歡的物理世界應用之一,其實是移動通訊基站的無線電系統。原因在於,它感知世界所用的方式與攝影機不同。

它通過無線電波感知世界、進行推理,處理資訊,再通過波束成形與世界互動。攝影機、揚聲器和麥克風並非這裡採用的互動方式。

這項技術非常適合AI。AI將徹底改變電信行業的運作方式,大幅提高頻譜效率。

我們在光線追蹤上已經做到了類似的事情。你們看到的所有圖形,都是100%通過光線追蹤生成的。過去我們認為所需的計算量,與如今應用AI後的計算量相比,相差100萬倍。

因此,我們將大幅提升電信網路的頻譜效率。此外,我們還將徹底改造這些基站。西方世界有10萬個站點,約100 GW的分佈式資料中心,未來將成為分佈式AI基礎設施。

我們很高興與歐洲的多家公司合作。經過近8年的努力,就在上周,輝達與諾基亞合作,在T-Mobile網路上完成了首次商用通話。

現在,CUDA已經能夠以傳統方式處理電話通話。實現這一點後,我們就可以在其上疊加AI。這場變革即將開始。

這對我們來說是一個非常令人興奮的機會。另一個讓我十分期待的物理AI應用,本質上是機器人放射治療。

腫瘤的形狀會變化,患者的身體也會在治療過程中發生變化。自適應放射治療機器人系統必須感知不斷變化的環境,精確分割腫瘤區域,並據此精準實施放射治療。這本質上是一種機器人應用,也是一種機器人手術。

當然,大家都熟悉的、規模最大且最有望在近期落地的機器人或物理AI應用,我們已經投入了超過10年的時間。

現在,我們認識到,每一家汽車公司都希望讓自己的汽車加入網約車車隊。如今有優步這樣的網約車平台,在歐洲有Bolt,還有Grab、Lyft等各種網約車服務。

未來,無人駕駛計程車也將接入這些網約車服務,而且會來自多個品牌。

我們知道,建構這些系統成本極高,尤其是運行在其上的軟體。因此,我們決定建立一種標準架構:14個不同的攝影機、9套雷達系統、3個雷射雷達,以及超聲波感測器。這些感測器構成包圍車輛的感知層,由雙輝達GPU系統為自動駕駛計算系統提供算力。

我們將其打造成行業標準,現在它正被陸續納入各個車隊的設計。自動駕駛軟體公司在這一架構之上開發無人駕駛計程車能力,輝達本身也是其中之一。這些能力隨後接入網約車服務,整個生態系統正在逐步形成。

全球每年的出行里程約為1兆英里。未來,其中很大一部分里程將由無人駕駛計程車完成,每英里的費用為1美元或2美元。這是一個巨大的機會。

但這個市場極其分散。因此,通過建立Hyperion這一行業標準,並與整個生態系統合作,我們實際上可以建立一支龐大的虛擬車隊。

所有人都可以接入這支車隊。今天,我非常自豪地宣佈,又有4個品牌的車型系列將加入:大眾廂式車、捷豹路虎的全新車型、沃爾沃車隊,以及梅賽德斯-奔馳的下一代車型。我實在想不出還有什麼比大眾廂式車更具標誌性。

這些車型也將相容Hyperion,成為這個網約車網路和無人駕駛計程車車隊的一部分。歡迎加入Hyperion。

下一個重要產業很可能規模極其龐大,那就是人形機器人。機器人之所以難做,是因為需要完成的工作多種多樣。針對每一種任務開發專門配置,會帶來一個問題。

機器人行業會因此被分割為各種不同的配置,使技術難以形成持續迭代的良性循環。

手機、個人電腦和輝達NVLink 72之所以能夠快速進步,是因為標準化配置可以供大量客戶使用,從而形成規模。規模又推動技術持續迭代,讓產品以極快的速度變得更快、更好。

因此,我們需要一種儘可能標準化的機器人配置。人形機器人顯然具備這樣的潛力。

它可能無法完美適用於所有任務,但很可能適用於很多任務。因此,它很可能成為產量最大的機器人配置。

如果我們能夠開發出讓它快速學習的AI,那麼對於那些沒有完整機器人團隊、無法專門開展教學和程式設計的中小企業來說,只需要向機器人演示要做什麼。機器人具備通用能力和通用智能,便能快速學習和適應。

因此,這很可能成為下一個重要的技術平台。我們正在與許多不同的公司合作,其中不少歐洲公司,大家應該都認識。這是你們的重要機會。

沒有那個國家或地區,像歐洲這樣長期專注於機電一體化、電子和機械系統,並達到如此高的精度與工藝水平。這裡有很多公司非常擅長製造。這將成為下一個大規模產業。

你們可以看到,已經有許多公司參與其中,我們很高興能與你們合作。

要建構物理AI系統,需要3台電腦。第1台是我們一直在談、大家也很熟悉的電腦,用於訓練AI模型。第2台用於讓AI學習具體技能。不能讓AI編寫好程序後,就直接進入物理世界,隨意嘗試各種行為。技能學習要在數字孿生中進行。

我們建立了名為Omniverse的數字孿生系統,你們已經多次聽到我們介紹它。剛才展示的CUDA-X庫相關應用,也都在數字孿生世界中運行,這個世界就叫Omniverse。

Omniverse是一個庫,可以連接到各種平台和工具,包括西門子、達索系統、楷登電子等公司的產品。因此,你們可以看到,這些數字孿生系統正在被建構出來。這就是第2台電腦的作用。

第3台是機器人電腦。在自動駕駛汽車,也就是無人駕駛計程車場景中,我們把相應的整合系統稱為Hyperion。

Hyperion包含電腦本身、功能安全系統、主動安全系統,以及為物理AI安全而設計的作業系統。

我們也需要為機器人系統做同樣的事。這樣,每當你們開始研發自己的機器人系統時,就不必從零開始拼裝軟體、計算系統、感測器和各種機械系統。僅僅完成這些工作,就可能需要數年。

因此,我們決定開發一款參考機器人。這就是輝達與思靈機器人合作推出的Agile One。

這款參考機器人將在明年第1季度上市,屆時會完成預裝,內建電腦並整合好軟體,開箱後應該就能有相當不錯的表現。因此,它是一個很好的起點,也將推動機器人研發加速。

最後,讓我回到今天演講開始的地方。輝達起步於個人電腦革命。那是1993年,個人電腦革命即將興起。大家還記得,Windows 95讓這場革命進入了高速發展階段。

此後,我們發明了GPU、可程式設計著色和即時光線追蹤,又在計算模型中加入CUDA,幫助點燃了現代AI革命。

4年前,我們開始思考:面向這個新時代,我們可以怎樣重新構想個人電腦?

個人電腦將成為你的個人智能體或個人助手,工具仍是它的基礎角色。你與它的互動方式,將更像與一個幫助你完成工作的夥伴相處。

這台電腦需要具備我今天提到的全部5個組成部分。它需要模型,模型可以在本地運行,也可以在雲端運行;需要編排框架;需要OpenShell安全運行環境;還需要訪問知識和工具,因為這些資源就在你的個人電腦上。

好消息是,輝達長期以來一直在加速各種工具。只要我們能夠打造一台支援OpenGL、DirectX和所有CUDA應用加速的電腦,輝達迄今開發的一切就都可以在這台電腦上運行。

這就是我們帶來的產品。經過與微軟4年的合作,我們打造了RTX Spark,這是一個全新的電腦產品系列,投入了數千工程人年的研發工作。

我們秘密研發了4年,開發出一款名為N1X的晶片。就在最近,我們與整個個人電腦行業攜手宣佈了這款產品。

我們打造了桌上型電腦、筆記型電腦和工作站。它提供1 PFLOPS算力,也就是每秒1000兆次浮點運算。

為了讓大家有個概念,2016年,我向一家名為OpenAI的小公司交付了一台擁有1 PFLOPS算力和128 GB記憶體的電腦。現在,這台裝置同樣擁有1 PFLOPS算力和128 GB記憶體。

區別當然在於,現在我可以這樣把它拿在手裡,而當年的DGX-1需要2個人才能搬上樓。

這就是全新的RTX Spark個人電腦。如果你還想配一台工作站,用來運行CATIA,以及達索系統、歐特克、奧多比、楷登電子和新思科技的各種軟體,也可以選擇另一款產品。

那就是運行Windows的DGX Station。它擁有20 PFLOPS算力和754 GB記憶體,非常出色。當然,還有桌上型電腦版本。

這些產品現已推出。我認為,搭載Windows的DGX Station將在今年年底上市。

到目前為止,我介紹了智能體的5個組成部分。接下來的問題是,怎樣建構一個智能體,讓它運行在剛才的某台電腦上、雲端,或者某個本地部署環境中?

答案很簡單:讓一個智能體幫你建構它。

接下來這些應用將通過這樣的提示詞來運行。你們即將看到一個機器人應用演示。觀看時請記住,有一個智能體正在這台個人電腦上運行。

這個演示涉及3台電腦:第1台負責訓練,第2台負責數字孿生,第3台則將AI部署到裝置自身的電腦中。

這裡有2個概念。第1個是智能體:如何建構和運行它,以及它能用來做什麼。第2個是由3台電腦構成的物理AI計算模型。我們來看一下。

這是Hugging Face的機器人Micro Duck。讓我們用輝達RTX Spark教它看和走。

我使用Hermes作為智能體編排框架,使用Nemotron和OpenAI的GPT-6 Astra作為模型,並使用CUDA-X加速工具:FreeCAD、Blender、Isaac Sim、Newton Physics Engine和Isaac Lab。

所有任務都將在我的RTX Spark上運行,只有需要臨時擴展算力、處理更大工作負載時,才會轉到雲端。

首先,我描述訓練場地,以及Micro Duck需要學習什麼。在RTX Spark上,Hermes和Nemotron規劃場地,列出所需的每一個物體。接下來由Astra接手,使用FreeCAD建立3D物體模型,使用Blender加入材質,再用Omniverse SimReady庫加入物理屬性。

在Isaac Sim中,Astra搭建場景,為Micro Duck配置關節、執行器和連桿,並使用Newton Physics Engine模擬它的運動。

隨後,訓練在雲端開始。數千個Micro Duck在Isaac Lab中平行訓練。每一次跌倒都是一次學習機會,每次都能改進策略。

Omniverse庫模擬Micro Duck的攝影機,教它感知環境。感知與物理能力協同作用,讓Micro Duck能夠避開障礙、穿過狹窄空間,並適應周圍環境。

我將策略下載到RTX Spark,再使用Nemotron和Isaac Sim,通過多機器人編排來評估Micro Duck。

我把經過驗證的策略部署到實體Micro Duck上,它就可以開始行動了。輝達RTX Spark讓你直接在筆記型電腦上建構和運行AI智能體及其加速工具。(404K)