【新智元導讀】老黃關於未來最新的想法和預測，以及他對於過去許多問題的再思考，還有他的許多日常生活小習慣，都在這篇專訪裡了。

科技公司對輝達的超級運算GPU有著近乎無盡的需求。

不再是那個只為遊戲顯示卡提供圖形渲染服務的輝達，現在的輝達利用他的GPU開創了一個新時代：

人類能夠與電腦對話，電腦能夠回應人類。而最終，電腦甚至可能超越人類。

WIED最近對黃仁勳進行了一次專訪，在訪談過程中，老黃用自己的幽默和智慧回答了幾乎一切關於自己和輝達過去和未來的問題。

61歲的黃穿著他標誌性的皮夾克和極簡主義黑色運動鞋出現。

他說，他討厭星期一的早晨，因為他週日也要工作一整天，這讓他在一週的開始就已經感到很疲憊了。

2012年，一小群研究人員推出了使用GPU而非CPU來運行程式碼的開創性影像辨識系統－AlexNet，開啟了深度學習的新紀元。

老黃立刻指示公司全力進軍AI領域。

2017年，當Google發布了被稱為Transformer的新型神經網路架構——也就是ChatGPT中的「T」——並引發了當前的AI熱潮時，輝達已經完美地完成了跑馬圈地位，開始向渴望科技的公司銷售其專為AI設計的GPU。

輝達現在在AI晶片市場的銷售額中佔據了超過70%的份額，並且正接近2兆美元的市值。

其2023年最後一季的營收達到了220億美元，比前一年成長了265%。

其股價在過去一年上漲了231%。老黃要么是在他所做的事情上具有非凡的洞察力，要么是運氣極好——或者兩者都有！——而每個人都想知道他的成功秘訣。

但沒有人可以永遠處於巔峰。現在，他正處於美中科技戰和監管機構的重重壓力之下。

老黃在AI晶片領域的一些競爭對手是眾所周知的大公司——Google、亞馬遜、Meta和Microsoft——它們是科技業最財大氣粗的企業。

去年12月，半導體公司AMD推出了一款大型AI運算處理器，意圖與輝達競爭。

新創公司也在瞄準輝達。光是去年第三季度，創投就向AI晶片領域投入了超過8億美元。

因此，老黃永遠不會停下腳步。

老黃：「我兩個是是史丹佛大學的校友。」

採訪記者：是的，沒錯。我讀的是新聞學，但你學的不是。

「因為，我非常欽佩的一位領導者和人物，Adobe CEO Shantanu Narayen，他曾說他一直想成為一名記者，因為他熱愛講故事。」

「有效地講述公司故事似乎是建立企業的一個重要部分。制定策略就是講故事。建構文化也是講故事。」

問：你多次表示，你沒有用簡報的形式來銷售輝達的理念。

「確實如此。只要講好故事就行了。」

問：因此，我想從另一位科技主管對我說的話開始。他指出，輝達比Amazon多一歲，但在許多方面，輝達比亞馬遜更有「第一天」的感覺。你是如何保持這種心態的？

「這確實是一個非常好的表達。我每天醒來都覺得像是第一天，因為我們總是在做一些前所未有的事情。」

「這也涉及到脆弱性。我們很可能會失敗。就在剛才，我正參與一個會議，我們正在為公司嘗試一些全新的事物，我們還不確定如何正確執行。」

「我們正在建立一種新型數據中心，我們稱之為AI工廠。與今天建造數據中心的方式不同，你有很多人共享一個計算機集群，並把他們的文件存儲在這樣一個大型數據中心裡。」

「AI工廠的概念更像是一個發電站。這是相當獨特的。我們已經在過去幾年裡建造了它，但現在我們需要將它轉化為一個產品。」

「我們還沒有想好名字。但它將無處不在。雲端服務供應商將建造它們，我們也將建造它們。未來，每家生物技術公司都將需要它。每家零售公司、每家物流公司、未來的每家汽車公司都將擁有一個工廠——生產實體商品的工廠，以及一個為汽車生產AI的工廠。」

「實際上，你可以看到Elon Musk正在這樣做。他在思考工業公司未來形態的問題上遠遠超前於大多數人。」

問：你之前說過，你經營一個扁平化的組織，直接向你報告的高階主管有30到40人，因為你希望直接參與資訊流。最近有什麼事情吸引了你的注意，讓你認為，「我可能最終需要把輝達押注在這個上面」？

「資訊不必從組織的頂層向下流動，就像在我們沒有電子郵件和短信等工具的舊石器時代那樣。信息如今可以更快速地流動。因此，一個從上到下逐層傳遞信息的層級結構變得不再必要。一個扁平化的網路讓我們能夠更快地適應變化，這一點至關重要，因為我們的技術正在飛速發展。」

「如果你觀察輝達技術的發展軌跡，傳統上摩爾定律每隔幾年就會翻一番。然而，在過去的十年裡，我們已經將AI 的能力提高了大約一百萬倍。這遠遠超過了摩爾定律的增長速度。在一個指數增長的世界裡，你不希望信息從頂層逐層向下傳播。」

老黃眼中的未來：空間模型將統一一切

問：但我想問的是，你的「羅馬帝國」是什麼？這是一個比喻。今天的Transformer論文是什麼？現在正在發生什麼，你認為這將改變一切？

「有幾件事情。其中之一還沒有具體名稱，但它是我們在基礎機器人學方面所做的一些工作。」

「如果你可以生成文本，如果你可以生成圖像，那麼你是否也可以生成運動？答案很可能是肯定的。然後，如果你可以生成運動，你就可以理解意圖並產生一種泛化的表達形式。因此，人形機器人的出現應該指日可待。」

「我認為圍繞狀態空間模型（SSM）的工作，這種模型允許你學習極長的模式和序列而不會在計算上呈現二次方增長，可能就是下一個Transformer。」

問：這將使我們能做什麼？有沒有現實生活中的例子？

「你可以與電腦進行非常長時間的對話，而對話的上下文永遠不會被遺忘。你甚至可以暫時改變話題，然後回到之前的話題，那個上下文仍然能被保留。」

「你可能能夠理解一個非常長的鏈條，比如一個人類的基因組。僅僅通過觀察遺傳代碼，你就能理解它的含義。」

問：我們距離實現這一點還有多遠？

「過去，從我們有了AlexNet到實現超越人類水平的AlexNet，只花了大約五年的時間。一個機器人基礎模型很可能就在不遠的將來——我會說是明年的某個時候。從那時起，再過五年，你將看到一些非常了不起的事情發生。」

Q：哪個產業最有可能從一個廣泛訓練的機器人行為模式中受益？

「嗯，重工業代表了世界上最大的產業。移動電子相對容易，但移動原子則極為困難。」

「運輸、物流、從一個地方到另一個地方移動重物、發現下一種藥物——所有這些都需要對原子、分子、蛋白質有深刻的理解。這些是AI尚未觸及的巨大而令人驚嘆的行業。」

問：你提到了摩爾定律。現在它已經不再適用？

「摩爾定律現在更多的是一個系統問題，而不是單純的晶片問題。它更多關乎多個晶片之間的互聯互通。大約10到15年前，我們開始了解構計算機的旅程，這樣就可以將多個晶片連接在一起。」

Q：這就是你們在2019年收購以色列公司Mellanox的原因？輝達當時表示，現代運算對資料中心提出了巨大需求，而Mellanox的網路技術將使加速運算更加有效率。

「確實如此。我們收購Mellanox是為了能夠把我們的晶片擴展成一個整個資料中心的超級晶片，從而實現現代AI超級電腦。這實際上是基於對摩爾定律終結的認識，如果我們想要繼續擴大運算能力，我們必須在數據中心層面進行。」

「我們重新審視了摩爾定律的製定，認為：不要讓它成為限制。摩爾定律不是計算的極限。我們必須超越摩爾定律，尋找新的擴大規模的方式。」

Q：Mellanox現在被認為是輝達非常明智的收購。最近，你們嘗試收購全球最重要的晶片IP公司之一Arm，直到被監管機構阻止。

「原本會是一次很棒的收購。」

問：我不確定美國政府是否同意，但讓我們先不討論這個。當你現在考慮收購時，你關注哪些具體領域？

「這些大型系統的作業系統非常複雜。你如何創建一個作業系統和計算堆棧，以協調我們GPU中數以千萬計、數以億計、現在甚至接近數十億的微小處理器？這是一個非常棘手的問題。如果公司外部有團隊正在解決這個問題，我們可以選擇與他們合作，或採取更進一步的措施。」

問：因此，我從你的話中聽出，對輝達來說，擁有一個作業系統並將其發展成為一個更完整的平台至關重要。

Q：你成為平台的部分越多，你面臨的挑戰就越多。人們往往會對平台因其輸出而承擔更多的責任。自動駕駛汽車的行為、醫療設備的誤差範圍、AI 系統的偏差等問題。你是如何應對這些挑戰的？

「我們不是一個應用程式公司。這可能是最簡單的解釋。我們會盡我們所能，但盡可能少地為一個行業服務。例如，在醫療保健領域，藥物發現不是我們的強項，但計算是。」

「製造汽車不是我們的專長，但製造擅長AI的汽車計算機是我們的專長。老實說，很難有一家公司能在所有這些領域都做得很好，但我們可以在AI計算方面做得非常好。」

晶片短缺什時候是個頭？不知道，因為我們要發新產品了

Q：去年有報告指出，你們的一些客戶為了等待你們的AI GPU而等待了數月。現在情況如何？

「嗯，我認為我們今年可能會完不成訂單。可能明年也完不成。」

「我不確定。但你知道，今年也標誌著我們迎來了一個新的時代。」

Q：你是指Blackwell，你們傳說中的新GPU？

「沒錯。一代新的GPU即將推出，Blackwell的性能非常驚人。這將是非常了不起的產品。」

Q：這是否意味著客戶將需要較少的GPU就夠了？

「這是我們的目標。目標是大幅降低模型訓練的成本。然後，人們就可以擴大他們想要訓練的模型。」

問：輝達在許多AI新創公司中進行了投資。去年有報導稱，你們投資了超過30家。這些新創公司是否在等待硬體方面得到了優先考慮？

「他們面臨與所有人一樣的GPU供應緊張，因為他們中的大多數人使用公有雲，因此他們必須自己與公有雲服務供應商談判。但他們確實獲得了對我們AI技術的支持，這意味著他們可以利用我們的工程能力和我們優化AI模型的特殊技巧。」

「我們使他們的工作更有效率。如果你的吞吐量提高了五倍，你實際上就獲得了五倍的GPU性能。這就是他們從我們這裡獲得的優勢。」

問：你認為自己在這方面是個風向標嗎？

「不。我們投資這些公司，因為他們在他們所做的事情上非常出色。對我們來說能夠投資他們是一種榮幸，而不是反過來。這些是世界上一些最聰明的人才。他們不需要我們來為他們背書。」

Q：當機器學習越來越多地轉向推理而不是訓練——基本上，如果AI工作變得在計算上不那麼密集——這是否會減少對你們GPU的需求？

「我們喜歡推理。實際上，我會說，輝達的業務今天可能是，70%的推理+30%訓練。」

「這是好事，因為這意味著AI最終實現了價值。如果輝達的業務是90%的訓練和10%的推理，你可能會認為AI 仍然處於研究階段。七八年前確實如此。」

「但今天，每當你在雲中輸入一個提示並生成某物時——無論是視頻、圖像、2D、3D、文本還是圖表——很可能背後都是輝達的GPU。」

#晶片慌 你可以在這裡找到鉅亨號中所有使用「晶片慌」為關鍵字所發布的內容