【輝達GTC大會】輝達新GPU以他為名，Blackwell是誰？

在GTC2024期間，NVIDIA 聯合創始人兼總裁黃仁勳Jensen Huang 推出了Blackwell GPU。該GPU 本身針對AI 工作進行了深度優化，擁有192GB HBM3E 記憶體以及訓練1 兆個參數模型的能力。此外，黃仁勳還推出了BG200 超級晶片，它將兩個Blackwell GPU 與一個Grace CPU 配對，可提供720 petaflops 的訓練性能和1.4 exaflops 的推理性能。

雖然如此令人印象深刻的創新已在整個科技界中廣泛報導，但「Blackwell」這個名字並沒有引起太多關注。這款GPU 以美國數學家和統計學家David Blackwell 的名字命名，他的工作對數學以及人工智慧的特定領域產生了持久的影響。

布萊克威爾的工作具有革命性，尤其是在非裔美國科學家面臨嚴重種族障礙的時代。

Blackwell 的故事講述了一位偉大的智者在逆境中取得勝利的故事，因此NVIDIA 對他的認可是當之無愧的。為了更了解這位非凡的思想，讓我們探索布萊克威爾的生活和工作以及他對人工智慧的貢獻。

布萊克威爾的一生

布萊克威爾1919 年4 月24 日出生於伊利諾州森特勒利亞。布萊克威爾是一名家庭主婦和一名鐵路工人的兒子，他就讀於綜合學校，並立即展現了學業上的潛力。他的老師兩次要求他跳級，這使得布萊克威爾在十六歲時高中畢業。

1938 年，他在伊利諾伊大學厄巴納-香檳分校用三年時間獲得了數學學士學位，並於1939 年獲得了碩士學位。隨後，他於1941 年22 歲時獲得了博士學位，成為第非裔美國人第七個獲得博士學位美國數學專業。

此後，布萊克威爾獲得了高等研究院(IAS) 的羅森沃爾德獎學金。在那段時期，IAS 成員獲得附近普林斯頓大學訪問學者的任命是常態。不幸的是，普林斯頓大學以種族歧視為由反對布萊克威爾的任命，拒絕他在大學聽課或從事研究活動。這項決定最終被推翻，布萊克威爾直到多年後才意識到這起醜聞。

在IAS 工作期間，布萊克威爾接觸了被認為是博弈論之父的約翰·馮·諾伊曼(John Von Neumann)，並開始培養他對博弈論的興趣以及對指導的熱愛。馮諾依曼相信引導人們進入職業生涯的高級專業階段，這種塑造聰明頭腦的願望給年輕的布萊克威爾留下了深刻的印象。在他的教育生涯中，他繼續指導了50 多名學生。

布萊克威爾的職業生涯異常成功，個人生活也很充實。 1944 年，他與安·麥迪遜(Ann Madison) 結婚，並與她育有八個孩子。在加州大學柏克萊分校工作了幾十年後，布萊克威爾於1988 年退休，享年70 歲。二十多年後，布萊克威爾於2010 年7 月8 日因中風併發症去世，享年91 歲。兩年後，總統巴拉克·歐巴馬將追授布萊克威爾國家科學獎章。

雖然布萊克威爾顯然過著充實的個人生活並享有成功的職業生涯，但他對數學和人工智慧的深遠貢獻需要進一步探索。

博弈論

布萊克威爾對賽局理論的貢獻對他的職業生涯極為重要。簡而言之，博弈論是數學的一個分支，研究個人或群體在面臨相互依賴的選擇時如何做出決策。

在人工智慧的背景下，博弈論對於理解理性主體如何在競爭或合作環境中做出決策至關重要。透過分析不同代理之間的策略交互，人工智慧系統可以設計為根據其他實體的行為來優化結果。 Blackwell 的可接近性框架（其中兩個玩家使用向量值策略進行重複博弈）提供了一種結構化方法來對動態環境中的決策過程進行建模。

布萊克韋爾對博弈論的貢獻為人工智慧演算法的發展鋪平了道路，這些演算法可以適應不斷變化的條件並在複雜場景中做出最佳決策。他對順序分析和動態程式設計的見解有助於增強人工智慧系統從過去的經驗中學習並隨著時間的推移改進決策的能力。

統計數據

統計為數據分析、建模和決策提供基礎，在人工智慧中發揮至關重要的作用。在人工智慧中，統計學是預測建模、模式識別和數據解釋等各種任務的支柱。透過利用統計技術，人工智慧系統可以分析複雜的資料集、識別模式並根據經驗證據做出明智的決策。布萊克韋爾在統計學方面的工作為人工智慧研究人員和從業者提供了從數據中得出準確結論的工具，從而產生更有效的人工智慧演算法和模型。

更具體地說，布萊克威爾在貝葉斯統計方面做出了開創性的工作。貝葉斯統計是一個強大的框架，它使用機率論來量化不確定性並根據新證據更新信念。在人工智慧應用中，貝葉斯方法在機器學習、模式識別和機率推理等任務中發揮著至關重要的作用。

布萊克威爾在貝葉斯統計領域的開創性工作推動了人工智慧領域的發展，使研究人員能夠開發出更強大、更具適應性的演算法，這些演算法可以從數據中學習並在不確定的環境中做出智能決策。

拉奧-布萊克威爾定理

儘管Rao-Blackwell 定理屬於統計學範疇，可以包含在上面的章節中，但Blackwell 的同名定理（與Calyampudi Radhakrishna Rao 一起創建）對人工智慧產生瞭如此重要的影響，因此值得單獨討論。它提供了一種系統方法，透過利用基於充分統計數據的條件預期來增強統計估計。

在人工智慧應用中，準確的估計對於預測建模、參數估計和優化等任務至關重要。 Rao-Blackwell 定理提供了一種透過條件期望減少誤差來完善統計估計的方法。透過有效利用足夠的統計數據，人工智慧系統可以提高預測的準確性和可靠性，從而實現更明智的決策過程。

該定理在各種人工智慧任務中都有應用，其中精確估計對於模型性能至關重要。在機器學習、最佳化演算法和機率建模中，準確的估計對於提高人工智慧系統的效率和有效性起著至關重要的作用。 Blackwell 在Rao-Blackwell 定理方面的工作為改進人工智慧應用中的統計估計提供了寶貴的工具，有助於演算法開發和模型最佳化的進步。

布萊克威爾對數學的貢獻跨越了四十多年，當時這一研究領域正在催生計算革命。更重要的是，當時非裔美國人要求尊重他們對一個嚴重歧視他們的國家的貢獻。

Blackwell 是一位知識巨人，他對我們目前所處的運算密集型世界產生了深遠的影響，NVIDIA 顯然很自豪能夠將其革命性的GPU 與他的遺產聯繫起來。(半導體產業觀察)

原文連結 https://www.hpcwire.com/2024/03/22/who-is-david-blackwell/