OpenAI買幾萬台Mac搞強化訓練!輝達的活被蘋果搶了

AI速讀
OpenAI 與 Anthropic 為訓練能自主操作電腦的 AI 智能體,大量採購 Mac mini 與 Mac Studio,利用其統一內存優勢進行強化學習。此需求導致 Mac 銷售額同比增長近 29%,成為蘋果增長最快的業務。儘管蘋果嘗試透過企業活動推廣,但面臨高階機型斷貨及缺乏企業工程團隊的窘境。與此同時,輝達已將蘋果視為本地 AI 競爭對手並推出 DGX Spark 應戰,而第三方雲計算公司 Mount Thor 則試圖填補蘋果在企業 AI 執行環境的空白。

OpenAI被曝瘋狂掃貨Mac,一買就是幾萬台

一不小心給買斷貨了,還要想盡辦法搞到更多。

Macbook筆記本不要,專買沒有螢幕、沒有鍵盤的Mac mini和Mac Studio

那麼問題來了:什麼樣的AI業務,輝達GPU和GoogleTPU搞不定,非得用Mac?

幾萬台Mac搞強化學習,Anthropic也幹了

據Information消息,OpenAI已經購買了數以萬計的Mac mini和Mac Studio,專門用於強化學習。

不只是OpenAI,Anthropic也在通過亞馬遜雲服務AWS租用Mac mini來做類似的任務。

這些Mac被用來訓練”計算機使用智能體”(computer-use agent),也就是能自主操作電腦、完成編輯測試代碼、自動整理郵箱、總結文檔等多步驟任務的AI系統。

這股熱潮直接反映在了蘋果業績上。

最近一個季度,Mac銷售額同比增長近29%,達到103億美元,增速超過了iPhone、iPad等蘋果旗下所有其他產品線,Mac成了蘋果增長最快的業務

6月23日,蘋果總部Apple Park舉辦了一場名為”Business at the Park”的活動。這在蘋果歷史上並不常見,蘋果向來專注消費者市場,極少專門面向企業客戶辦活動。

這場活動迪士尼和福特的高管到了,Anthropic聯合創始人Jared Kaplan也到了,蘋果即將卸任的CEO Tim Cook和即將接任的John Ternus都在。

據一位參會者透露,蘋果在活動上反覆強調其硬體非常適合在本地處理AI任務,Mac mini是整場活動的焦點

AI訓練長期以來由輝達GPU主導,但Mac能在強化學習這個細分場景中被大規模採購,靠的是統一內存。

輝達GPU的顯存和系統內存是分開的,數據在兩者之間傳輸會產生瓶頸。蘋果M系列晶片則採用單一共享內存池,CPU和GPU直接訪問同一塊內存,在處理AI工作負載時具備性能優勢。AA

另外,與輕薄的MacBook不同,Mac mini和Mac Studio配備了專門的散熱系統,長時間運行復雜AI任務不會因為過熱而降頻。這對需要持續數小時甚至數天的強化學習訓練來說至關重要。

蘋果還在推廣EXO Labs開源軟件項目,可以將多臺Mac組成叢集,在本地運行兆參數級別的AI模型。

蘋果剛剛發佈的新款Mac Studio也特別強調了叢集能力,多臺Mac Studio可以串聯組成更強大的系統來運行前沿模型。

這次新品發佈的時間也不尋常。蘋果通常在每年10月或11月進行年末更新Mac產品線,這次提前到了8月。

輝達盯上了,蘋果倉促應對

Mac在本地AI領域的崛起已經引起了輝達的注意。

據一位與輝達高管討論過競爭形勢的知情人士透露,輝達將蘋果視為本地AI領域最大的競爭對手。

去年底,輝達發佈了DGX Spark,一款與Mac mini設計風格相似的AI桌面電腦,直接瞄準這個市場。

蘋果這邊面臨供應跟不上的現實問題。

AI數據中心對內存晶片的巨大需求導致了歷史性的全行業短缺,蘋果也未能倖免。

對AI開發者最有吸引力的高配版Mac mini和Mac Studio已經斷貨數月。

蘋果前AI產品企業營銷經理Todd Dailey透露,過去一年由於Mac供應受限,一些企業已經開始尋找替代方案,輝達DGX Spark是被頻繁提及的選項,而且現在有現貨。

Dailey今年4月從蘋果離職,目前是獨立AI顧問。他還透露Mac在企業AI市場的火爆完全是意外,而非蘋果的主動規劃。蘋果沒有專門面向企業客戶的工程團隊,也沒有任何專注於開發者關係的員工。

蘋果上一次出售服務器產品還是2011年就停產的Xserve。基於Mac的服務器操作系統也已於2022年停止開發。

不過已經有人嗅到了機會。

前OpenAI計算基礎設施員工Peter Voell創辦了Mount Thor,一家基於蘋果硬體的雲計算公司,目前仍處於隱身模式,官網將產品描述為「基於蘋果硬體的AI執行環境」。

蘋果也在寄希望於Mount Thor和webAI這樣的合作夥伴,把Mac推進更深的企業市場。

蘋果最近終於開始使用Mac晶片構建自己的服務器。不過,這些服務器僅供內部使用,用於私有雲計算(Private Cloud Compute)服務,處理超出iPhone或Mac處理能力的AI任務。

一些企業客戶曾詢問蘋果是否可以出售這些服務器的使用權,但蘋果目前為止都拒絕了。 (量子位)