登入
關鍵字
#B200
官方認證
RexAA
2025/02/27
•
【DeepSeek】輝達下場,首次最佳化DeepSeek-R1!B200性能狂飆25倍,碾壓H100
最近,輝達開源了首個在Blackwell架構上最佳化的DeepSeek-R1,實現了推理速度提升25倍,和每token成本降低20倍的驚人成果。同時,DeepSeek連續開源多個輝達GPU最佳化項目,共同探索模型性能極限。 當FP4的魔法與Blackwell的強大算力相遇,會碰撞出怎樣的火花? 答案是:推理性能暴漲25倍,成本狂降20倍! 隨著DeepSeek-R1本地化部署的爆火,輝達也親自下場,開源了首個基於Blackwell架構的最佳化方案——DeepSeek-R1-FP4。
科技
#DeepSeek R1
#輝達
#B200
223人
讚
留言
分享
官方認證
美股艾大叔
2024/11/21
•
輝達財報前夜!大摩:B200能確保四季度業績,不用擔心散熱問題,B300進入評估
分析師認為,B200晶片穩定的產量能夠確保輝達兌現之前的財務指引;市場對於Blackwell晶片發熱問題的擔憂被誇大了,目前沒有看到任何晶片發貨推遲的跡象。 輝達財報前夕,摩根士丹利發佈樂觀報告。 分析師認為,輝達有望在本周的財報中發佈相對良好的資料。B200穩定的產量能夠確保輝達兌現之前的季度指導。市場對於輝達Blackwell晶片發熱問題的擔憂被誇大了,目前沒有看到任何晶片發貨推遲的跡象。 大摩資深半導體分析師Joseph Moore在11月18日的研報中表示,從亞洲供應鏈角度,Blackwell B200產量變得更加平穩,預計2024年第四季度產量約為30萬件,2025年第一季度為80萬件。B200穩定的出貨應該可以保證輝達在本周的財報中兌現之前的季度指導。
美股
#輝達
#Blackwell
#B200
216人
讚
留言
分享
官方認證
RexAA
2024/06/27
•
比H100快20倍還更便宜!輝達的“掘墓人”出現了?
6月27日消息,晶片初創公司Etched近日宣佈推出了一款針對 Transformer架構專用的AISC晶片 “Sohu”,並聲稱其在AI大語言模型(LLM)推理性能方面擊敗了輝達(NVIDIA)最新的B200 GPU,AI性能達到了H100的20倍。這也意味著Sohu晶片將可以大幅降低現有AI資料中心的採購成本和安裝成本。 目前,Etched公司已就其Sohu晶片的生產與台積電4nm工藝展開直接合作,並且已從頂級供應商處獲得足夠的 HBM 和伺服器供應,以快速提高第一年的生產能力。一些早期客戶已經向Etched公司預訂了數千萬美元的硬體。 一、AI性能超過輝達H100的20倍,是如何做到的? 據Etched公司介紹,Sohu是世界上第一個基於Transformer架構的ASIC。
科技
#輝達
#Etched
#B200 GPU
242人
讚
留言
分享
官方認證
美股艾大叔
2024/03/19
•
已編輯
【輝達GTC大會】老黃祭出新核彈B200!30倍H100單機可訓15個GPT-4模型,AI迎新摩爾時代
【導讀】就在剛剛,老黃又來打破摩爾定律了:輝達新核彈B200,一塊能頂5個H100,30倍推理加速,能訓萬億參數大模型!同時推出的AI推理微服務NIM,號稱讓全世界用上AI。 就在剛結束的GTC人工智慧大會上,輝達的新一代效能巨獸Backwell誕生了! Blackwell B200 GPU,是如今世界上最強大的AI晶片,旨在「普惠兆參數的AI」。 本來,H100已經使輝達成為價值數萬億美元的公司,追趕了谷歌和亞馬遜,但現在,憑著Blackwell B200和GB200,輝達的領先優勢還要繼續領先。
美股
#輝達
#GTC
#B200
248人
讚
留言
分享
官方認證
美股艾大叔
2024/03/19
•
已編輯
【輝達GTC大會】輝達最強GPU B200,首次採用Chiplet?
遙想2023年3月,輝達舉行了GTC 2023主題演講,輝達CEO黃仁勳不僅闡述了該公司在人工智慧時代的諸多成就和對未來發展願景的期待,同時也帶來Grace Hopper超級晶片、AI Foundations雲端服務、AI超級運算服務DGX Cloud、全球首個GPU加速量子運算系統等在內的多款重磅硬體新品。 而在台北時間2024年3月19日上午,輝達再次舉辦了一年一度的NVIDIA GTC主題演講,輝達CEO 黃仁勳透過這次演講,分享了新一代的AI突破,也讓各位觀眾見證了AI的又一次變革時刻。 穿著熟悉皮衣的黃仁勳自然是這場演講的主角,「世界上沒有哪一個會議有如此多樣化的研究人員,其中有大量的生命科學、醫療保健、零售、物流公司等等,」他說, “全球價值100 兆美元的公司都聚集在GTC。” 黃仁勳表示:「我們已經到了一個臨界點,我們需要一種新的運算方式......加速運算是一種巨大的提速。所有的合作夥伴都要求更高的功率和效率,那麼輝達能做些什麼呢?”
美股
#輝達
#GTC
#B200
291人
讚
留言
分享
官方認證
美股艾大叔
2024/03/19
•
已編輯
【輝達GTC大會】輝達新核彈B200發布,一台伺服器頂一個超算,萬億參數大模型30倍推理加速
AI春晚GTC開幕,皮衣老黃再次燃爆全場。 時隔兩年,輝達官宣新一代Blackwell架構,定位直指「新工業革命的引擎」 ,「把AI擴展到萬億參數」。 作為架構更新大年,本次大會亮點頗多: 宣布GPU新核彈B200,超級晶片GB200
美股
#輝達
#GTC
#B200
261人
讚
留言
分享
官方認證
美股艾大叔
2024/03/04
•
戴爾劇透輝達B200明年發布,能耗高達1000W,AI終極利好的是:能源?
「晶片荒」之後,人工智慧市場還將面臨「電力荒」? 受惠於AI伺服器需求激增,全球最大的伺服器製造商之一戴爾最新財季實現了超預期的營收,股價在過去12個月的時間內上漲了一倍多。 財報發布後,戴爾公司的營運長Jeff Clarke在新聞稿中透露:輝達將於2025年推出載有「Blackwell」架構的B200產品,功耗或將達到1000W。 Clarke也表示,戴爾的旗艦產品PowerEdge XE9680機架伺服器採用了輝達GPU,是該公司歷史上「速度最快」的解決方案。
美股
#戴爾
#輝達
#B200
282人
讚
留言
分享