#系統
傳輝達擬削減Vera Rubin機架記憶體配置,以應對成本飆升
7月27日消息,據外媒Wccftech援引廣發證券(GF Securities)的分析報導稱,輝達公司正在大幅減少其Vera Rubin NV72機架級AI系統的記憶體使用量,以應對持續的記憶體短缺和價格上漲問題。 輝達的Vera Rubin NVL72機架系統是全球性能最頂尖的AI計算平台之一。該系統於今年1月發佈,其首批性能資料在本月初由CoreWeave共享不同AI系統的吞吐量資料後首次浮出水面。結果顯示,在處理混合專家(MoE)模型工作負載時,搭載輝達Blackwell AI GPU的系統在150兆瓦功耗下可實現每秒8萬token的吞吐量;而全新的VR200 NVL72 Vera Rubin平台則將這一數值提升了10倍,達到每秒80萬token。 這一結果出爐之前,伯恩斯坦(Bernstein)早前的一份報告曾指出,單台NVL72 Rubin機架的成本可能高達910萬美元,主要原因在於記憶體價格走高。伯恩斯坦表示,此前有關該機架成本為780萬美元的估算,是基於過時的記憶體價格預測得出的。該金融機構進一步指出,HBM4記憶體的價格在2027年可能上漲至53美元/GB。 近日,廣發證券的一份報告顯示,輝達正在進行調整,以應對記憶體市場的供應和價格壓力。該報告認為,從Vera Rubin NVL72機架開始,輝達將把該機架的SOCAMM(小型壓縮附加記憶體模組)容量減半,從原先的192GB模組降至96GB。這些調整是為了應對LPDDR5X市場的供應緊張局面。
別再為睡眠習慣過度焦慮了
睡眠是一種令人驚嘆的身體過程。入夜不久,人體會出現一波生長激素分泌高峰,用於修復肌肉;血壓也會緩慢下降,讓心臟和血管獲得喘息。大腦中近年才被發現的類淋巴系統,則會在我們睡覺時像一台洗衣機一樣運轉,沖刷掉可能有害的代謝廢物。 也許正因為如此,作為一名初級保健醫生,我最常聽到的長期關切之一,就是睡得好不好,或者睡不好的問題。我的患者會追蹤睡眠時長和睡眠評分,會升級床墊,也會求助於白噪聲機和滿滿一架子的膳食補充劑。這種壓力是真實存在的:“正眠症”(Orthosomnia)正在成為一個新興的臨床概念,指的是人們對睡眠指標產生焦慮,而這種焦慮反過來會損害睡眠質量。 我們都可以在睡眠這件事上放鬆一點。許多人認為自己每晚至少應該睡八小時,但支援這一看法的證據,並沒有我們想像得那麼穩固。 睡眠流行病學研究中一個相當一致的發現是,並不存在一個神奇數字,只要低於它,健康就會突然墜崖。相反,那些顯示睡眠時長與死亡率相關的研究,往往發現風險最低的人群大致集中在每晚睡七小時左右。睡眠不足會使風險上升,睡得太多也會使風險上升。事實上,發表在《科學報告》期刊上的一項睡眠研究薈萃分析發現,死亡率最高的成年人,是那些每晚睡九到十一小時的人。值得注意的是,雖然短睡眠會使風險上升,但這項研究並未發現每晚睡六小時和七小時的人在全因死亡率上存在明顯差異。儘管資料並不完全一致,也存在一些例外,但其他多項研究得出了類似結論。