曾經高不可攀的H100 GPU，如今1.5折在平台出售，是什麼泡沫破了？

舊時王謝堂前燕？

金融博主twi@HedgieMarkets 的一條推文引發了討論，曾經曾經售價高達 40,000 美元（約合 29 萬人民幣）的 H100，目前在 eBay 等二手平台上的成交價已跌至 6000 美元（約合 4.3 萬人民幣）左右，這些並不是像鹹魚上的壞件，而是真實可用的顯示卡。四年間，這一尖端人工智慧加速器跌幅高達 85%。

為什麼 H100 跌得這麼慘？這並非因為其性能絕對值變弱了，而是因為在 AI 推理的戰場上，它的單位成本已經讓它被淘汰。

原推文中提到，採用H100進行模型推理（也就是我們給模型提示詞，然後它們輸出內容）的成本約是新一代 Blackwell (B300) 的 11 倍。實際上，這個倍率還是綜合的保守數字，在semianalysis給到的資料中，GB200 NVL72在FP4性能上提高了98倍，這其實也是為什麼牢黃一直說“買的越多，省的越多”。

經濟學家David McWilliams在接受《財富》採訪時表示，“對圖形處理器（GPU）的大規模投資存在問題，因為它就像【數字生菜】，很快就會枯萎——你投資的是一種易腐爛的商品。”

這些尖端的GPU實際上在安裝進機房的同時就開始貶值。而對於追求極致效率的算力服務商來說，在看到新一代硬體以多倍效率碾壓姿態登場時，繼續持有 H100 意味著每跑一秒鐘都在虧錢，因為對手正用著營運成本僅為數十分之一的新一代硬體。

實際上，這一現象也在揭開各大巨頭財報中的隱憂，各家科技巨頭們正在通過將這些 GPU 的折舊時間延長至 5-6 年，來掩蓋真實的資產貶值損失。

然而，現實是殘酷的，輝達現在維持著“一年一更”的瘋狂節奏。當 Blackwell 甚至即將到來的 Rubin 架構以數倍的性能跨度入場時，那些帳面上還值數萬美元的 H100，在二手市場上其實只值一輛二手車的價格。這種帳面價值與市場價值的巨大鴻溝，已成為未來財報中巨額資產減值的伏筆。

那既然貶值如此之快，為什麼微軟、Meta、Google等巨頭依然在源源不斷地訂購 B200 甚至還未出爐的Rubin？即使這些訂單在交付時可能就已經“過時”了？

事實就是，時間才是這場競爭中的唯一硬通貨，在大模型競賽中，晚半年拿到算力可能意味著錯過整個時代。而在這些資料中心的基建中，也存在著客觀慣性，現代化資料中心的液冷設施和電力配額是提前相當長周期規劃的。即便 Rubin 更好，現在的機房只能跑 B200或者更老的H200。同時，持續購買當下的產品，往往是獲取下一代產品（如 Rubin/Feynman）優先供應權的“投名狀”。

這釋放了一個什麼訊號？在提供那些二三線的雲服務商中，如果是加槓桿炒作算力，顯然要因為頂層競爭神仙打架（燒錢）的快速迭代而面臨破產洗牌。而由於這些曾經的頂級晶片快速淘汰，對中小企業和學術界是極大的利多。頂級算力正在從“奢侈品”變成“通用物資”，這預示著 AI 應用將迎來真正的爆發。

或許我們再過四年五年，這些曾經高不可攀的算力晶片就會成為“大船貨”，以極其低廉的價格，成為我們垃圾佬的“二奶機”“三奶機”的一部分，搭建本地的家用算力伺服器。 (AMP實驗室)