最近，輝達開源了首個在Blackwell架構上最佳化的DeepSeek-R1，實現了推理速度提升25倍，和每token成本降低20倍的驚人成果。同時，DeepSeek連續開源多個輝達GPU最佳化項目，共同探索模型性能極限。 當FP4的魔法與Blackwell的強大算力相遇，會碰撞出怎樣的火花？ 答案是：推理性能暴漲25倍，成本狂降20倍！ 隨著DeepSeek-R1本地化部署的爆火，輝達也親自下場，開源了首個基於Blackwell架構的最佳化方案——DeepSeek-R1-FP4。

分析師認為，B200晶片穩定的產量能夠確保輝達兌現之前的財務指引；市場對於Blackwell晶片發熱問題的擔憂被誇大了，目前沒有看到任何晶片發貨推遲的跡象。 輝達財報前夕，摩根士丹利發佈樂觀報告。 分析師認為，輝達有望在本周的財報中發佈相對良好的資料。B200穩定的產量能夠確保輝達兌現之前的季度指導。市場對於輝達Blackwell晶片發熱問題的擔憂被誇大了，目前沒有看到任何晶片發貨推遲的跡象。 大摩資深半導體分析師Joseph Moore在11月18日的研報中表示，從亞洲供應鏈角度，Blackwell B200產量變得更加平穩，預計2024年第四季度產量約為30萬件，2025年第一季度為80萬件。B200穩定的出貨應該可以保證輝達在本周的財報中兌現之前的季度指導。

6月27日消息，晶片初創公司Etched近日宣佈推出了一款針對 Transformer架構專用的AISC晶片 “Sohu”，並聲稱其在AI大語言模型（LLM）推理性能方面擊敗了輝達（NVIDIA）最新的B200 GPU，AI性能達到了H100的20倍。這也意味著Sohu晶片將可以大幅降低現有AI資料中心的採購成本和安裝成本。 目前，Etched公司已就其Sohu晶片的生產與台積電4nm工藝展開直接合作，並且已從頂級供應商處獲得足夠的 HBM 和伺服器供應，以快速提高第一年的生產能力。一些早期客戶已經向Etched公司預訂了數千萬美元的硬體。 一、AI性能超過輝達H100的20倍，是如何做到的？ 據Etched公司介紹，Sohu是世界上第一個基於Transformer架構的ASIC。

【導讀】就在剛剛，老黃又來打破摩爾定律了：輝達新核彈B200，一塊能頂5個H100，30倍推理加速，能訓萬億參數大模型！同時推出的AI推理微服務NIM，號稱讓全世界用上AI。 就在剛結束的GTC人工智慧大會上，輝達的新一代效能巨獸Backwell誕生了！ Blackwell B200 GPU，是如今世界上最強大的AI晶片，旨在「普惠兆參數的AI」。 本來，H100已經使輝達成為價值數萬億美元的公司，追趕了谷歌和亞馬遜，但現在，憑著Blackwell B200和GB200，輝達的領先優勢還要繼續領先。

遙想2023年3月，輝達舉行了GTC 2023主題演講，輝達CEO黃仁勳不僅闡述了該公司在人工智慧時代的諸多成就和對未來發展願景的期待，同時也帶來Grace Hopper超級晶片、AI Foundations雲端服務、AI超級運算服務DGX Cloud、全球首個GPU加速量子運算系統等在內的多款重磅硬體新品。 而在台北時間2024年3月19日上午，輝達再次舉辦了一年一度的NVIDIA GTC主題演講，輝達CEO 黃仁勳透過這次演講，分享了新一代的AI突破，也讓各位觀眾見證了AI的又一次變革時刻。 穿著熟悉皮衣的黃仁勳自然是這場演講的主角，「世界上沒有哪一個會議有如此多樣化的研究人員，其中有大量的生命科學、醫療保健、零售、物流公司等等，」他說， “全球價值100 兆美元的公司都聚集在GTC。” 黃仁勳表示：「我們已經到了一個臨界點，我們需要一種新的運算方式......加速運算是一種巨大的提速。所有的合作夥伴都要求更高的功率和效率，那麼輝達能做些什麼呢？”

AI春晚GTC開幕，皮衣老黃再次燃爆全場。 時隔兩年，輝達官宣新一代Blackwell架構，定位直指「新工業革命的引擎」 ，「把AI擴展到萬億參數」。 作為架構更新大年，本次大會亮點頗多： 宣布GPU新核彈B200，超級晶片GB200

「晶片荒」之後，人工智慧市場還將面臨「電力荒」？ 受惠於AI伺服器需求激增，全球最大的伺服器製造商之一戴爾最新財季實現了超預期的營收，股價在過去12個月的時間內上漲了一倍多。 財報發布後，戴爾公司的營運長Jeff Clarke在新聞稿中透露：輝達將於2025年推出載有「Blackwell」架構的B200產品，功耗或將達到1000W。 Clarke也表示，戴爾的旗艦產品PowerEdge XE9680機架伺服器採用了輝達GPU，是該公司歷史上「速度最快」的解決方案。