近日,ARK Invest創始人木頭姐(Cathie Wood)在一檔對話節目中分享了她對記憶體的看法。
她認為,記憶體是半導體產業鏈裡周期性最強的一環,也是最容易被商業化的部分。在科技行業,某個元件的價格翻三倍四倍甚至於十倍並不是正常狀態,反而是一種負面訊號,木頭姐表示:“但多數人卻覺得是超級大利多”(but most people think it's a huge positive)。
“我們正在看到,通過工程設計來擺脫對HBM的需求”(we're seeing engineering out the need for HBM),木頭姐指出,高頻寬記憶體(HBM)的需求可以通過工程設計來消除。
她舉例稱,Cerebras和Groq等公司的新型AI晶片,從一開始就在架構設計上做到了完全不依賴HBM。木頭姐補充說,她的風投基金持有Groq的股份,同時表示輝達已經在跟Groq進行合作了。
木頭姐又舉出特斯拉作為例子,特斯拉之前就有類似的情況,當時因為鈷供應鏈受阻,價格飆升,馬斯克通過工程設計把大部分鈷從電池中去除了。
木頭姐還表示,儘管從自由現金流的角度來看,晶片股的與超大規模雲端運算公司兩者走勢完全相反,“但這種情況只是暫時的”(but that's fleeting)。
據外媒報導,Groq本月12日宣佈成為NVIDIA雲合作夥伴,該企業將為使用者提供基於中大型NVIDIA加速計算叢集的訓練和推理服務。
輝達計畫在今年晚些時候推出基於Groq的硬體,在此基礎上開發更先進的晶片。
當地時間8月17日,Groq完成3.5億美元A輪融資,估值達35億美元,輝達計畫參與。
根據Groq官網的介紹,Groq的AI推理基礎設施由LPU提供支援。這是一種新型處理器,專為AI需求設計,LPU將記憶體和計算功能整合在晶片上,大幅提升了資料記憶體和檢索速度,同時消除了時序波動,片上記憶體使其運行速度更快。
Cerebras的晶圓級引擎(WSE)思路則非常大膽,將整張晶圓做成一個巨大的晶片,將所有計算核心和記憶體整合在單一晶片上,極大地縮短了資料在不同元件間傳輸的距離和延遲。OpenAI的GPT Codex Spark已經在Cerebras的晶片上運行,實現了接近零延遲的響應速度。(投資者內參)
