7月27日消息，據外媒Wccftech援引廣發證券（GF Securities）的分析報導稱，輝達公司正在大幅減少其Vera Rubin NV72機架級AI系統的記憶體使用量，以應對持續的記憶體短缺和價格上漲問題。
輝達的Vera Rubin NVL72機架系統是全球性能最頂尖的AI計算平台之一。該系統於今年1月發佈，其首批性能資料在本月初由CoreWeave共享不同AI系統的吞吐量資料後首次浮出水面。結果顯示，在處理混合專家（MoE）模型工作負載時，搭載輝達Blackwell AI GPU的系統在150兆瓦功耗下可實現每秒8萬token的吞吐量；而全新的VR200 NVL72 Vera Rubin平台則將這一數值提升了10倍，達到每秒80萬token。
這一結果出爐之前，伯恩斯坦（Bernstein）早前的一份報告曾指出，單台NVL72 Rubin機架的成本可能高達910萬美元，主要原因在於記憶體價格走高。伯恩斯坦表示，此前有關該機架成本為780萬美元的估算，是基於過時的記憶體價格預測得出的。該金融機構進一步指出，HBM4記憶體的價格在2027年可能上漲至53美元/GB。
近日，廣發證券的一份報告顯示，輝達正在進行調整，以應對記憶體市場的供應和價格壓力。該報告認為，從Vera Rubin NVL72機架開始，輝達將把該機架的SOCAMM（小型壓縮附加記憶體模組）容量減半，從原先的192GB模組降至96GB。這些調整是為了應對LPDDR5X市場的供應緊張局面。
同樣地，Vera CPU配套的記憶體將從原先的54至55TB縮減至28TB，而GPU方面每機架將繼續保留20.7TB的HBM4記憶體。至於CPU機架的SOCAMM，該分析機構認為也將採用每顆CPU配96GB SOCAMM的方案。
這些決策在財務層面的影響在於：如果容量降至原先的四分之一，VR200的LPDDR5X成本可低至29.3萬美元；如果降至二分之一，則可降至58.6萬美元，從而不會觸及此前120萬美元的預估高位。廣發證券補充稱，若不做調整，記憶體成本在VR200系統總物料清單成本中的佔比將達到29%，對應210萬美元，這一比例高於20%的合理水平。 (芯智訊)