今天,輝達再度傳來大消息。根據外媒報導,輝達計劃從三星購買高頻寬記憶體(HBM)晶片,HBM是人工智慧處理器的關鍵組件。身為韓國電子巨頭,三星試圖追趕競爭對手SK海力士,後者最近開始大規模生產其下一代HBM晶片。
在輝達GTC 2024大會上,輝達CEO黃仁勳宣布推出新一代GPU Blackwell,第一款Blackwell晶片名為GB200,將於今年稍後上市。根據CNBC消息,黃仁勳稱,輝達最新的AI晶片Blackwell售價將在3萬美元至4萬美元之間。他估計,輝達在研發成本上花費了約100億美元。
輝達也發表最新的GB200系列算網系統,算力性能顯著提升,其中同時應用了銅連接、光連接的方案,市場對「光」與「銅」的延伸路徑討論較多。從昨天開始,銅連接概念股開始發酵。可以說,在目前這個時點,少了輝達,市場將變得暗淡。
一款晶片
根據今天早上日經新聞報道,輝達計劃從三星採購高頻寬記憶體(HBM)晶片,這是人工智慧處理器的關鍵組件。三星試圖追趕競爭對手SK海力士,後者最近開始大規模生產其下一代HBM晶片。
三星周三 (20 日) 早盤勁揚逾 5%,股價登上逾兩個月高點。
「HBM記憶體非常複雜,附加價值非常高。我們在HBM上投入了大量資金,」輝達聯合創始人兼首席執行官黃仁勳週二在加州聖荷西舉行的媒體簡報會上表示。黃仁勳表示,輝達正在三星的HBM晶片進行資格認證,並將在未來開始使用它們。「三星是一家非常好的公司,」黃仁勳補充道。
同時,三星在記憶體晶片領域的最大競爭對手SK海力士在19日宣布,已開始量產下一代高頻寬記憶體晶片HBM3E。HBM已成為人工智慧熱潮的重要組成部分,因為與傳統儲存晶片相比,它提供了急需的更快的處理速度。
黃仁勳表示:「HBM是一個技術奇蹟。」他補充說,HBM還可以提高能源效率,並且隨著耗電的人工智慧晶片變得更加普遍,可以幫助世界變得更加永續。
SK海力士其實是AI晶片領導者輝達的HBM3晶片的唯一供應商。雖然沒有透露新HBM3E 的客戶名單,但SK海力士高層告訴《日經亞洲》,新晶片將首先發送給輝達,並用於其最新的Blackwell GPU。
三星一直在HBM上投入巨資,以追趕競爭對手。該公司於2月宣布開發出HBM3E 12H,是業界首款12堆疊HBM3E DRAM,也是迄今容量最高的HBM產品。三星表示,將於今年上半年開始量產該晶片。
黃仁勳在周二的媒體簡報會上對記者表示:「三星和SK海力士的升級週期令人難以置信,一旦輝達開始增長,他們就會與我們一起成長。」「我非常重視我們與SK海力士和三星的合作關係,」他補充道。
黃金時代
HBM是一款新型的CPU/GPU記憶體晶片。
華福證券認為,HBM是目前算力的記憶體瓶頸,也是儲存單元的理想方案和關鍵零件。AI大模型的興起催生了海量算力需求,而資料處理量和傳輸速率大幅提升,使AI伺服器對晶片記憶體容量和傳輸頻寬提出了更高的要求,而HBM作為一種專為高效能運算設計的記憶體,其市場需求也在持續成長。HBM的重要性在於,GPU對大規模平行運算的速率要求在持續提升,但運算過程本身需要算力、存力、運力三者同時匹配,通常儲存的讀取速度和運算的處理速度之間存在一定時間差,HBM就是為提高傳輸速率和儲存容量應運而生的重要技術路線。
與GDDR相比,HBM在單體可擴展容量、頻寬、耗電量上整體更有優勢,相同耗電量下其頻寬是DDR5的三倍以上。因此,HBM突破了記憶體瓶頸,成為目前AI GPU儲存單元的理想方案和關鍵元件。
TrendForce(集邦諮詢)認為,高階AI伺服器GPU搭載HBM晶片已成主流,2023年全球搭載HBM總容量將達2.9億GB,年增近60%,2024年將再成長30%。根據Omdia預測,2025年HBM市場的總收入將達到25億美元。
據報道顯示,SK海力士宣布擬在韓國投資10億美元擴大和改進其HBM晶片封裝工藝,新投資將投入到HBM先進封裝的MR-MUF和TSV技術中;美光則宣布正式量產業界領先的HBM3E解決方案,輝達H200Tensor Core GPU將採用此記憶體方案,並於2024年第二季開始出貨;而三星的HBM3產品也於2024年第一季陸續透過AMD MI300系列驗證,其中包含其8層與12層產品,加快了追趕SK海力士的腳步。展望未來,隨著儲存巨頭的持續發力,產業鏈上下游企業也將緊密部署,HBM的影響力將逐步擴大並帶來全新機會。
Blackwell功耗太高?黃仁勳:輝達與Vertiv合作 電力冷卻、傳輸不成問題
輝達下一代 GPU 架構 Blackwell 功耗或將達到 1000W,但輝達執行長黃仁勳並不太擔心這一點。
輝達 GTC 大會進行到周二 (19 日),金融分析師針對最新 AI GPU 日益增長的電力需求詢問黃仁勳,他稱絕對電力、冷卻或電力傳輸不會成為問題。
黃仁勳指出,輝達 (NVDA-US) 與電力和冷卻基礎設施設備領先供應商 Vertiv (VRT-US) 合作,為客戶創建有效的冷卻解決方案。
在黃仁勳提出此點後,Vertiv 周二股價自盤中低點回升,最終以小跌 0.1% 作收,報每股 77.06 美元,盤後上漲逾 0.7%。
炒作不斷深入
從市場層面來看,最近關於人工智慧炒作不斷深入。從昨天開始,市場已經把目光聚焦到銅連接這個板塊。
近日,輝達發表最新的GB200系列算網系統,算力性能顯著提升,其中同時應用了銅連接、光連接的方案,市場對「光」與「銅」的延伸路徑討論較多。
GB200(包括先前GH200)系列是輝達定義的「superchip」系統,與傳統伺服器相比,系統顆粒度大,機櫃內36或72個GPU的連接以電訊號為主,對外則同時應用了NVLink和InfiniBand兩套網路。
據研究紀要,分析認為,市場對銅連接方案的態度正在發生變化,GB200採用了銅連接方案這一事實表明這種方案在未來可能會得到更廣泛的應用。隨著相關公司業績的兌現,銅連接方案的市場前景值得期待。
從市場表現來看,涉及銅連接的相關公司華豐科技、鼎通科技、立訊精密等,這兩天的表現都非常出色。A股PET銅箔今天也異動拉升,銅冠銅箔漲近16%,瀚葉股份漲近8%,東威科技、滬江材料、英聯股份、萬順新材等跟漲。
同時,國內應用層面的股票亦再度發酵,涉及KIMI的概念股華策影視今天20CM漲停,金山辦公、雲從科技等亦明顯強於大盤。人形機器人仍保持強勢,艾艾精工、臥龍電驅等股票漲停。