CEO黃仁勳演講:歡迎大家來到GTC,氣候科學、無線電科學、AI、機器人、自動駕駛汽車領域的專家參與了我們的開發者大會。名單上是使用加速運算的非IT產業利用AI解決自身領域的問題,這是價值100兆美元的產業。
電腦是當今社會最重要的工具,1993年我們成立了,2006年CUDA成為了一個革命性的計算系統,20年後,我們真正見到的他的革命性。2012年,CUDA和AI第一次解除,2016我們發明了一種全新的電腦-DGX1, 我們把八個GPU連在了一起,我們把這台機子送給了矽谷的一家叫OpenAI的公司,這台計算機有著170tp的算力,2022年,chatgpt讓人認識了AI。為什麼這是一個新產業,因為這個軟體之前沒有過,這是一個全新的類別,他從無到有,這也是一個全新的軟體製作過程,在資料中心生產浮點數。第一次工業革命當人們意識到建立工廠需要能量,這個無形的東西叫電,在未來,一種新的基礎設施出現了,我們稱工廠為人工智慧工廠。
公司的靈魂,在電腦圖形、物理學、和AI,都在一台電腦內相交,我們今天展示的一切,是模擬的,這都是用AI製作的,你們將看到世界上第一場完全Homemade的音樂會。
加速計算,已經到了臨界點,通用計算已經沒有動力了,我們需要一種計算方式繼續降低計算成本,同時也需要他可持續的,沒有哪個行業比我們更重要,在這個行業,不是為了降低計算成本,是為了提高運算規模,我們希望做的整個產品完全模擬化,為了做到這一點,我們需要加速整個產業,我們有一些合作夥伴加入,Ansys,全世界孿生數位兄弟,Synopsys,為了製造晶片,必須把光刻技術推導到極限,TSMC 和Synopsys 將使用NVIDIA 的計算光刻平台投入生產,以加速製造並突破下一代先進半導體晶片的物理極限。cadence,製造超級電腦的公司,終端客戶可以用做流體動力學模擬,即時風洞等。
LLM,我們能擴展LLM的尺寸,6個月翻一倍,我們發展了計算需求,模型尺寸擴大的同時,需要更多的算力,必須要更多的計算規模,目前最先進的大模型是1.8兆個參數的,未來的大模型運算需求可能是數十億浮點運算每秒,為了更快完成訓練,我們需要更大的GPU,我們需要更大更大的GPU,我們的答案是把一堆GPU放在一起,透過NVlink把他們連接在一起,但在ChatGPT出現在我們面前,我們認識到還有很長的路要走,我們希望未來很多視頻由AI生產,模特手臂不會穿模,就像我也一直在模擬,就像這場演講,我希望他跟我腦子想的一樣。
總而言之,我們會讓AI和AI一起工作,互相訓練,就像老師和學生一樣,這些都會增加模型的尺寸,我們需要更大的GPU,架構以Blackwell命名。這是世界上最先進的GPUHopper,這是Blackwell
大的是Blackwell
Blackwell亮點:
2080億電晶體
兩個GPU和CPU連結在一起,2chips,4die將BlackwellGPU和Grace CPU連接在一起
AI是關於機率的,所以數學的能力需要保持精度和範圍,第五代的NVLink,保證GPU之間數據的鏈接
RAS引擎,做到百分百系統自我檢測。
安全AI,顯然AI代碼在參數中,這會花費數億美元,數據在計算中、運輸中是完全有能力加密的。
AI算力在八年內成長了1000倍,第一代DGX的算力是0.17pt,最新的已經達到720pt
NVLinkSwitch晶片,4個NVLink保證每秒1.8TB的互聯速度,讓每個GPU同時全速與其他每個GPU通訊
如果你要訓練GPT模型,1.8萬億參數,8000個GPU需要90天左右,20兆瓦的電力,這個開創性的AI模型,如果用Blackwell晶片做,2000片GPU,只需要20天,並且只需要4兆瓦的電力。
接下來展示Blackwell和Hopper在推理端的比較,大約提升了30倍的效能
兩年前我帶著Hopper推向市場,當時只有兩個客戶,現在我們有更多客戶了,我相信Blackwell會進入全世界的AI公司,OEM、ODM、主權AI、區域雲、電信公司,全世界都會和我們簽下Blackwell的單子,
亞馬遜正在為Blackwell做準備,AWS將提供基於NVIDIA Grace Blackwell GPU 的Amazon EC2 執行個體和NVIDIA DGX Cloud,以提高在數萬億參數LLM 上建置和運行推理的效能
谷歌也正在為Blackwell做準備,他們最近宣布正在努力優化Gemini模型,同時宣布採用全新Grace Blackwell AI 運算平台以及Google Cloud 上的NVIDIA DGX Cloud 服務。為機器學習社群提供技術,加速他們輕鬆建立、擴展和管理生成式AI 應用程式的步伐。
甲骨文也為Blackwell做準備,將和輝達合作提供加速運算和生成式AI 服務,以建立數位主權並管理專有的國家和個人數據
微軟也正在為Blackwell做準備,Azure 將採用Grace Blackwell 超級晶片來加速客戶和第一方AI 產品的交付;NVIDIA DGX Cloud 與Microsoft Fabric 的本機整合可利用客戶自己的資料簡化自訂AI 模型開發; NVIDIAOmniverse Cloud API 率先登陸Azure Power 工業設計與模擬工俱生態系統;Copilot 透過NVIDIA AI 和加速運算平台得到增強
Omniverse數位孿生,能幫助公司在第一時間內建構非常複雜的新產品,在物理層面精確測試和優化佈局,能夠提升51%工人效率
2012年當你把一隻貓放進電腦裡時,一百萬個數字,最終產生一個向量,三個字元「CAT」。而如今,你在電腦裡打入“CAT”,電腦可以生成一隻貓,這簡直是奇蹟。AI不只是懂語言,他能理解語言。我們還數位化了什麼呢,任何東西都能數位化,只要我們知道他們的結構,這就是AIGC革命。
我們還能產生和學習什麼?我們很想學習天氣,極端天氣為世界帶來1500億美元的損失,我們創造了地球的數位孿生兄弟CorrDiff。AI啟動的天氣預報能更精確地預測和追蹤天氣的變化。速度為傳統天氣模型的1000倍,能源效率則為3000倍。
在醫療領域,我們已經做到了很多,醫學影像、基因定序等等。我們在今天能做更多,AI能理解影像和音訊。新藥的虛擬篩選需要大量資源,我們現在可以在幾分鐘內生產未經篩選的候選分子,基於物理學的模擬優化了分子和目標蛋白質結合的能力,同時優化了其他有利分子特性
LLM是開創性的,但公司很難用,如何才能把他們運用在工作中,我們發明了一種新方法讓你接受和操作軟體。這個軟體即為輝達推理微模型。是預先訓練好的開源模型,與API連結。展示了NV內部的晶片聊天機器人NeMo。同時公司可以建構私有化的資料庫。很多企業其實坐在金山上,他們多年的營運累積了大量的數據,運用好這些數據,這其實可以成為他們的「副駕駛」。
展示了數位人,他的底座是醫療保健LLM,這是一個完全動畫的AI,一個數字人。
下一代AI技術,到目前為止我們談論的AI都是計算機,AI模仿我們透過閱讀大量語言來預測下一個單詞,當然她也理解上下文,但終究是為了模範人類,我們把所有的資料放進DGX裡,最終訓練成了AI。
下一代AI需要三台電腦,看、理解、調整和生成;現在他將觀看視頻資料,同時會看著我們,了解正在發生的事情,強化學習,物理反饋,我們需要一個模擬引擎,用數字構建世界,讓機器人有健身房,讓機器人理解物理世界。重工業的未來是數位孿生,AI會幫助機器人在工業空間中取代工人面對不確定性時間。同時AI可以預測現實世界中不確定性的事情,並且可以看到周圍的角落,提高任務效率,操作人員甚至可以使用自然語言交流,所有的數據都是在模擬中創建的。未來的倉庫、建築、工廠將由AI定義。工業機器人會有自主機器人堆疊。
NVIDIA Omniverse™ Cloud 將以API 形式提供,擴展了世界領先平台的覆蓋範圍,用於在整個軟體製造商生態系統中創建工業數位孿生應用程式和工作流程。五個新的Omniverse Cloud 應用程式介面使開發人員能夠輕鬆地將核心Omniverse 技術直接整合到數位孿生的現有設計和自動化軟體應用程式中,或用於測試和驗證機器人或自動駕駛車輛等自主機器的模擬工作流程中。
一些全球最大的工業軟體製造商正在將Omniverse Cloud API 納入其軟體產品組合,包括:Ansys、Cadence、達梭系統(其3DEXCITE 品牌)、Hexagon、微軟、羅克韋爾自動化、西門子和Trimble。製造的所有產品都將擁有數位孿生。Omniverse 是用於建立和操作實體上真實的數位孿生的作業系統。Omniverse 和生成式AI 是實現50 兆美元重工業市場數位化的基礎技術。」
西門子正在創建工業元宇宙。西門子正利用數位孿生、AI來協助工業工程設計、專業化影像產生、加速運算
當你引入omniverse進入了工作中時,產品部、設計部、藝術部每個人都在一個基礎上工作,不用擔心數據交互的問題,尼桑已經整合omniverse進入了工作流程中,設計師可以通過自然語言,透過AI自主設計汽車,新的Omniverse Cloud API 可讓開發人員將互動式工業數位孿生流傳輸到Apple Vision Pro 中。
交通運輸領域的領先公司已採用NVIDIA DRIVE Thor™ 集中式汽車計算機為其下一代消費和商業車隊提供動力,從新能源汽車和卡車到機器人出租車、機器人巴士和最後一英里自動送貨車。同時宣布了和BYD在自動駕駛領域的合作
GR00T項目,是人形機器人的通用基礎模型,旨在進一步推動機器人技術和具體人工智慧領域的突破。今天大多數機器人是提前設計好的,在未來他們會有直覺,整個運動路線可以自適應,利用艾薩克感知器,結合最先進的深度感知、3D重建技術,我們已經有了廣義人形機器人必要的技術。
今天的機器人是機器手,也是預先編程的,我們用CUDA加速,驅動幾何感知的基礎。下一代機器人技術可能是仿生機器人,廣義人類機器人,我們有更多方法來訓練數據,人形機器人可能更有用,因為我們創造了這個世界,當我們創作的時候,自上而下,基礎模型,觀看影片學習人類,模仿人類,人形機器人學習如何適應物理世界。展示了自動駕駛以及人形機器人的未來。人形機器人幫忙完成日常任務,理解人類的日常行為運用DGX訓練,OVX推理,輝達讓這些可以實現。輝達正在為下一代AI機器人提供基礎。
電腦、物理學、AI的交叉結合,成就了機器人學
五件重要的事情:
1.一場新工業革命已經到來,價值一兆美元資料中心市場空間
2、一種新的軟體開發方法已經出現,AIGC,
3.下一代電腦Blackwell,新電腦創造新的軟體,面向未來的新型應用,
4.數位孿生平台,可以將NeMo集合成一個工作小組
5.未來將會是機器人化的,無論怎樣的機器人系統,都會需要數位孿生平台,也就是Omniverse
~產業報告研究院