黃仁勳史丹佛重磅對談:AI不只是大模型,整個電腦都要重造一遍

從加速計算、開放模型與智能體,到 AI 工廠、能源和下一代系統架構,一次關於計算產業新底座的完整判斷。

過去十多年,人們習慣把 AI 看成軟體世界的一項新功能:識別圖像、生成文字、輔助程式設計。但在黃仁勳看來,這個理解已經太窄。真正發生的變化,是電腦從底層晶片、網路、記憶體,到資料中心、軟體開發和應用形態,都在圍繞 AI 重新設計。

他把這場變化稱為計算產業六十多年來第一次真正意義上的“重新發明”。過去的計算主要呼叫預先寫好的程序和預先存好的內容;未來的計算則會根據情境即時生成結果,並由持續運行的智能體主動完成工作。AI 不再只是電腦裡的一種應用,而正在成為整個計算系統的默認工作方式。

六十多年後,電腦第一次換底座

黃仁勳把今天的產業拐點追溯到 IBM System/360 之後形成的通用計算體系。過去幾十年裡,程式設計師編寫程式碼,編譯器生成二進制檔案,CPU 按照確定的指令執行;網際網路、雲端運算和移動裝置雖然改變了互動與分發方式,卻沒有徹底改變計算的基本範式。

神經網路打破了這條路徑。機器不再只執行人類逐條寫下的規則,而是從資料中學習資訊的結構,再依據當前上下文生成答案、圖像、動作或程式碼。傳統計算更像從檔案庫裡取出已經準備好的結果,生成式計算則是在使用者提出意圖之後,現場組織一條新的推理和行動路徑。

這也解釋了為什麼“生成式 AI”中的“生成”不應只理解為生成內容。模型還可以生成中間思考、工具呼叫、任務計畫和行動序列。它不僅回答一個問題,還能持續觀察環境、呼叫其他軟體並檢查執行結果。計算正在從“按需響應一次”轉向“持續工作”,從預錄式資訊處理轉向即時生成式智能。

自動駕駛和機器人是最直觀的例子。車輛不能從資料庫裡調取一個預先錄製好的轉向動作,而必須理解此刻的道路、行人和目標,即時決定下一步。黃仁勳由此判斷,未來幾乎所有能夠移動的機器,都將逐步具有機器人屬性。

摩爾定律之後,性能來自系統級協同設計

如果計算模式變了,硬體就不能只沿著舊架構繼續堆疊。黃仁勳反覆強調“協同設計”:演算法、模型、編譯器、晶片、互連、網路、記憶體和資料中心必須圍繞同一種工作負載共同最佳化。

這種思路與早期 RISC 架構的精神一脈相承。編譯器和處理器不是彼此孤立的模組,而應相互理解、共同取捨。到了 AI 時代,協同設計的尺度進一步擴大:輝達設計的不只是 GPU,而是一整套由 CPU、GPU、交換晶片、高速互連、網路和記憶體組成的計算系統。

原因並不複雜。圖形渲染、分子動力學、量子化學、流體力學和深度學習都屬於極端計算問題,僅靠通用處理器很難兼顧效率與規模。當摩爾定律帶來的自然性能增長放緩,系統架構就必須主動尋找新的平行方式、資料流和通訊路徑。

黃仁勳稱,輝達通過這種跨層最佳化,在十年間把部分 AI 工作負載的能力推進了約一百萬倍。這個數字應理解為其對系統級綜合提升的概括,而不是單顆晶片的跑分。後摩爾時代的競爭單位,已經從“那顆晶片更快”變成“那套完整系統能更高效地完成真實任務”。

不要只看 MFU,要看系統交付了多少有效智能

課堂討論中,有學生提到大型叢集的 MFU,也就是模型浮點運算利用率。常見直覺是,MFU 越高,昂貴 GPU 被利用得越充分;黃仁勳卻提醒,這個指標很容易把人帶到錯誤方向。

大規模 AI 系統同時受計算、視訊記憶體頻寬、記憶體容量、網路和記憶體制約。任何時刻都可能有一種資源成為瓶頸。為了讓關鍵階段盡快完成,系統往往需要在其他資源上適度超配。表面上看,一部分算力會暫時空閒;但如果為了追求漂亮的利用率而壓縮余量,短暫瓶頸反而會把整個任務拖得更久。

推理階段尤其如此。大模型生成每一個新 token 時,需要不斷讀取參數和上下文,決定速度的往往不是峰值浮點算力,而是多顆晶片聚合後的記憶體頻寬。這樣一套系統可能 MFU 不高,卻能以更低能耗輸出更多 token。

因此,他提出更接近業務結果的觀察方式:不要問機器擁有多少 FLOPS,而要問它以多少能耗產出了多少有價值的結果。即使是“每瓦 token 數”也仍不完美,因為不同 token 的資訊價值不同,但它至少把評價重點從裝置佔用率拉回了真實產出。指標不是越容易測越好;真正重要的是,系統有沒有更快、更省地完成目標任務。

從 Hopper 到 Feynman:每一代架構都在押注下一種計算模式

黃仁勳用輝達幾代系統解釋了什麼叫“提前一代解決瓶頸”。Hopper 面向大規模預訓練而設計。當時全球最昂貴的科學超級電腦大約只有數億美元規模,而輝達已經在設想數十億美元級 AI 系統——那意味著,它在為一個當時幾乎不存在的市場設計產品。

隨著模型訓練完成,產業重心必然轉向推理。Grace Blackwell NVLink 72 於是把 72 顆 GPU 組織成機架級電腦,用高速互連匯聚視訊記憶體頻寬,服務於大模型解碼和 token 生成。黃仁勳稱,這一代系統在相關任務上較上一代實現約 50 倍提升,而同期單靠摩爾定律可能只有約兩倍。

接下來的 Vera Rubin 面向智能體。智能體需要長期記憶、工作記憶和大量工具呼叫:GPU 負責推理,卻可能因為一個運行在 CPU 上的小工具遲遲沒有返回而整套等待。因此,記憶體要直接接入高速計算網路,CPU 也不能只追求更多核心,還要提供很低的單線程延遲。

再往後,Feynman 所面對的可能不再是一個智能體,而是由智能體、子智能體和多層工具組成的軟體群。Hopper 押注預訓練,Blackwell 押注推理,Vera Rubin 押注智能體,Feynman 則在為“智能體群”預留計算底座。 這條路線反映的不是固定產品清單,而是一種架構方法:先判斷下一代軟體會怎樣工作,再反推它需要怎樣的機器。

開放模型的價值,不止是再做一個聊天機器人

談到開放模型,黃仁勳給出了兩個層面的理由。第一,許多語言和專業領域的市場規模不夠大,商業閉源模型未必會優先服務它們。要讓不同地區、行業和研究群體都擁有可修改、可微調的基礎模型,就需要有人先把模型、資料方法和訓練流程開放出來。

第二,未來的 AI 不只處理自然語言。化學分子、蛋白質、基因、氣候系統、道路環境和機器人運動都有自己的資訊結構、維度和物理約束。它們不能簡單套用語言模型,而需要專門的表徵與訓練方法。

黃仁勳列舉了輝達佈局的多個方向:面向語言的 Nemotron、面向生命科學的 BioNeMo、面向自動駕駛的 Alpamayo、面向人形機器人的 GR00T,以及氣候科學模型。其目標是先做出可用的基礎模型和訓練範式,再啟動下游科研與產業生態。

其中一個關鍵趨勢,是把語言推理能力與領域世界模型結合。自動駕駛模型既要識別車輛和道路,也要利用人類常識理解風險、意圖與因果關係。按照黃仁勳的說法,這種融合可以減少達到高安全水平所需的真實行駛資料。語言提供人類先驗,世界模型提供環境約束,兩者結合,才能讓 AI 從“識別對象”走向“理解平行動”。

他還把開放與安全聯絡在一起:高度能力化的系統如果完全不可見,就很難被獨立研究、審計和防禦。開放並不自動等於安全,但透明模型至少允許更多研究者檢查其行為,並以大量低成本防禦智能體對抗未來的自動化網路攻擊,而不是讓攻防雙方只進行封閉模型版本的軍備競賽。

AI 應進入每一門課,但基本功不會失去價值

在教育問題上,黃仁勳並不讚成把 AI 只當作一門孤立課程。教材和教學進度很難追上研究變化,學生應把 AI 當成貫穿學習過程的工具:讓它閱讀論文、追溯相關文獻、解釋疑問、輔助實驗和程式設計。

但這不意味著可以跳過基本原理。恰恰因為 AI 能迅速生成答案,人更需要判斷答案是否合理,理解系統為什麼成功、為什麼失敗。第一性原理、數學、體系結構和工程直覺仍然是校驗模型輸出的基礎。

黃仁勳透露,輝達內部大量使用來自 Anthropic、OpenAI 等公司的 token,幾乎所有工程師都在智能體輔助下工作。對他而言,未來教育與未來工作正在趨同:學習者一邊掌握基本理論,一邊使用最先進的工具解決真實問題。AI 不應替代人的理解,而應把人從低效檢索和重複勞動中釋放出來,把更多精力放到提問、判斷與創造上。

AI 工廠需要新的算力組織方式

算力緊缺並不總是“晶片不夠”。黃仁勳認為,大學面臨的更深層問題,是原有預算和組織方式無法支援大規模集中計算。不同院系分別申請經費、分別建設小型資源,任何單筆項目都難以形成足夠大的公共 AI 基礎設施。

而 AI 訓練與推理具有明顯的規模效應:研究團隊平時未必持續佔滿資源,但在關鍵實驗階段需要迅速呼叫大規模計算。零散裝置無法提供這種彈性,校園級超級計算平台或長期雲服務合同則更適合跨院系共享。

他甚至建議,像史丹佛這樣的大學應從大型捐贈基金中劃出十億美元量級的預算,提前規劃校園公共算力,讓每位學生和研究者都能接入 AI 超級電腦。這個建議未必適用於所有機構,但它揭示了一個重要問題:AI 時代的基礎設施不只是採購問題,更是預算、治理和資源共享機制的重構。

能源不是邊緣條件,而是下一代計算的硬約束

當計算從偶爾呼叫變成連續運行,能源需求會顯著上升。黃仁勳估計,未來計算所需能源可能達到當前的上千倍;這是一個帶有強烈前瞻判斷的數量級,而非精確預測,但背後的邏輯值得重視:生成式系統每次都要根據新情境重新計算,智能體又會長期線上,計算總量自然遠高於檢索式、按需式軟體。

企業能夠直接控制的第一件事,是提升能效。通過模型、晶片、互連和冷卻的協同設計,持續提高每瓦能夠產生的有效智能。黃仁勳以 Blackwell 相關系統的每瓦 token 數提升約 50 倍為例,說明架構創新可以在同等能源下釋放更多能力。

第二件事是擴充能源供給和電網能力。他認為,AI 帶來的強烈市場需求,使太陽能、核能及其他可持續能源第一次不必完全依靠補貼驅動。資料中心需要穩定電力,資本也願意為新增供給付費,這為升級老舊電網和建設清潔能源創造了窗口。AI 與能源不是兩個分開的產業話題:未來的智能規模,最終會被每瓦效率、發電能力和電網速度共同限定。

樂觀不是忽視風險,而是相信系統可以被理解和改進

對 AI 風險,黃仁勳明確反對把 GPU 類比成核武器,也反對把未來描述為某個不可預測時刻突然到來的“無限能力奇點”。在他看來,GPU 已經廣泛用於遊戲、醫療成像、科學計算、物流和工業,屬於通用計算基礎設施;政策討論如果從錯誤類比出發,後續結論也會失去現實基礎。

他並未否認風險,而是強調人類可以通過開放研究、系統防禦、工程約束和產業競爭逐步解決問題。其核心立場是“理性樂觀”:既不把技術神化,也不因最壞想像而放棄建設。對於計算產業而言,保持全球競爭力和廣泛可獲得性,同樣是讓更多人分享 AI 收益的前提。

從失敗中建立戰略:先觀察,再回到第一性原理

對談最後,黃仁勳回顧了輝達早期的兩類失敗。第一代圖形產品在曲面、Z-buffer、紋理對應和數值格式等關鍵選擇上幾乎全面走錯,但技術失敗迫使團隊學習如何判斷市場、保存資源、調整路線並在競爭中生存。錯誤的產品,反而成為戰略能力的訓練場。

另一段經歷是移動晶片。輝達曾把大量資源投入手機市場,業務一度達到十億美元規模,卻在 3G 向 4G 轉換時因基帶能力受制於人而被擠出。黃仁勳認為,自己本應更早意識到:圖形和應用處理器不是手機價值鏈中最關鍵的控制點,繼續投入的長期空間有限。

這段資源沒有完全浪費。團隊積累的低功耗和高能效技術後來被轉向當時尚未成形的機器人計算平台,最終延續到 Thor。但他仍把進入手機市場本身視為戰略錯誤,而不是用後來成功為原判斷辯護。

他總結自己的預測方法:先問“我實際觀察到了什麼”,再把現象拆回第一性原理;判斷它是否足夠重要、下一步可能發生什麼、會怎樣改變計算;隨後建立未來的心智模型,從目標狀態倒推今天的產品和組織選擇。

未來當然不可能被精確預測。更現實的做法,是區分“必然發生”“很可能發生”和“可能發生”,選擇大致正確的方向,同時壓低機會成本、保留轉向空間,並儘量讓前進過程本身創造收入與能力。戰略不是一次猜中終點,而是在不確定中不斷更新判斷,讓每一程都為下一程積累選擇權。

結語:下一次 AI 革命,首先是一場系統革命

這場史丹佛對談最重要的資訊,不是某一款 GPU 的參數,也不是某個模型的榜單成績,而是黃仁勳對計算系統變化的整體判斷:軟體從預先編寫轉向即時生成,應用從被動響應轉向智能體持續運行,硬體從單晶片最佳化轉向整機架協同設計,基礎設施從分散採購轉向集中式 AI 工廠。

與之相伴的,是新的評價指標、開放模型、領域世界模型、校園公共算力和能源系統。它們看似分屬不同產業,實質上都圍繞同一個問題:當“智能”成為一種需要持續生產的計算結果,我們應該用什麼樣的機器、軟體、組織和能源來承載它?

黃仁勳給出的答案並非一張固定路線圖,而是一套方法。觀察真實變化,回到第一性原理,理解下一代軟體的計算模式,再從晶片一路設計到資料中心和生態。AI 革命最終比拚的,不只是模型有多聰明,而是誰能把智能穩定、低成本、可擴展地生產出來。 (AI工業)