•
輝達下一代GPU，更多細節曝光
Nvidia 正在準備該公司的GeForce RTX 50 系列(Blackwell) 產品，以與最好的顯示卡競爭。雖然上市日期尚未確定，但著名硬體洩密者@kopite7kimi 聲稱，根據他的訊息，Blackwell系列的記憶體介面配置不會與Ada Lovelace系列有太大差異。既然這是洩漏，請持保留態度。我們從先前發布的一些洩密資訊中了解到，該公司計劃在其基於Blackwell 架構的下一代頂級GB202 GPU 中保留384 位元記憶體總線。
Nvidia 的Blackwell 可能是該公司第一個支援GDDR7記憶體的系列，與現有的GDDR6和GDDR6X記憶體解決方案相比，其更高的資料傳輸速率和架構特性有望顯著提高效能。鑑於第一代GDDR7 SGRAM IC 將具有32 GT/s 的資料傳輸速率，採用這些晶片的384 位元記憶體子系統將提供約1,536 GB/s 的頻寬，因此512 位元記憶體介面是不容錯過的。
雖然我對512位元還抱有幻想，但GB20x的記憶體介面配置和AD10x沒有太大差別。
2024 年3 月9 日，美光錶示16 Gb 和24 Gb GDDR7晶片將於2025 年上市，但其路線圖並未顯示這些設備是否會同時推出，還是16 Gb 會更早推出。也就是說，仍有待觀察的是Nvidia 是否會在其最初的GeForce RTX 50 系列顯示卡中使用16 Gb 還是24 Gb GDDR7 記憶體IC。
由於輝達的Blackwell家族至少還有兩到四分之三的時間，現在很難做出預測。然而，我們在表中概述了GB200系列供電產品的可能記憶體配置。
在迄今為止的幾代產品中，Nvidia 的頂級消費性顯示卡均使用384 位元記憶體介面（AD102、GA102），事實證明，從效能和成本的角度來看，該介面是最佳的。Nvidia 頂級消費性圖形產品的精簡版採用320 位元記憶體接口，而高階GPU 則採用256 位元匯流排（例如AD103、GA103 和GA104）。同時，效能主流段也有採用192位元記憶體匯流排的GPU（如AD104、GA106）及主流段採用128位元記憶體介面的GPU（如AD106、AD107、GA107）。
雖然洩密者的評論表明Blackwell系列將在很大程度上保留當前Ada Lovelace系列的記憶體介面配置，但應該記住，根據同一洩密者，Blackwell 系列將缺少GB204 GPU。相較之下，傳聞中的GB205很可能不會直接繼承AD104。
功率突破1000W？
如果您認為Nvidia 的700W H100 是又熱又耗電的機器，那就等到今年稍後的B100 GPU上市吧。
戴爾科技集團營運長傑夫克拉克(Jeff Clarke) 表示，Nvidia 最新的AI 加速器的功耗將達到1,000 瓦，比其前身高出42%。但別擔心，他非常確定馴服這頭野獸不需要液體冷卻。
克拉克上週在戴爾財報電話會議上對投資者表示：「我們對H200 所發生的事情及其性能改進感到興奮。」他補充說，他對Nvidia 即將推出的B100 加速器和另一個他稱為B200 的加速器也有同樣的感受。。
他認為，處理每個功耗1,000 瓦的GPU 不需要直接液體冷卻——他說「明年B200 就會達到這一水平」。
目前還不完全清楚Clarke 所指的「B200」卡是什麼，因為去年秋天輝達與投資者分享的路線圖上沒有出現該名稱的晶片。然而，我們懷疑Clarke 實際上指的是GB200 Superchip，它與GH200一樣，預計將Nvidia 的Grace CPU 與其B100 GPU 結合起來。
根據我們對GH200 中Grace CPU 的了解，並假設功耗沒有重大變化，GB200 的熱設計功耗(TDP) 約為1,300 瓦，比其前身高出30%。
輝達也可能還有另一張我們還不知道的牌。這家GPU 巨頭的下一代Blackwell 架構的細節仍然很少。
除了命名之外，克拉克表示即將推出的晶片將提供一個機會來大規模展示戴爾在其他形式的液體冷卻方面的專業知識。他提到「流體化學和性能、我們的互連工作、我們正在做的遙測、我們正在做的電源管理工作」作為直接液體冷卻替代方案的步驟，即使對於非常密集的晶片也是如此。
在Nvidia 的頻寬使H200 GPU 在今年上半年首次亮相後，B100 預計要到2024 年底才會推出。
H200 於2023 年底發布，是H100 的更新版，配備高達141GB 的HBM3e 內存，可實現高達4.8TB/秒的頻寬。Nvidia聲稱，由於該晶片的HBM3e 記憶體堆疊，該裝置可以使包括Llama 70B 在內的大型語言模型的效能提高一倍。
分析師警告稱，即使今年有兩款新的加速器上市，Nvidia 的GPU 供應仍將受到限制。儘管有通報預測Nvidia 的GPU 出貨量可能會在2024 年增加三倍以上。
除了新的加速器之外，Nvidia 的路線圖還要求在今年年底前推出速度更快、更強大的InfiniBand 和乙太網路NIC 以及交換機，每個連接埠的頻寬可達800Gb/秒。（半導體產業觀察）