歷時四個月,全球最大超級計算中心“Supercluster”正式開始運轉。
埃隆·馬斯克在社交平台公開宣佈,美國時間7月22日凌晨4:20,由xAI、X和輝達等合力打造的“Supercluster”已開始投入訓練。它由10萬塊H100組成,是目前世界上最強訓練叢集。
10萬塊輝達GPU,相當於馬斯克在AI世界鑄就了一座“晶片長城”,對比OpenAI訓練GPT4用到的25000塊GPU,數量提升了4倍之多。
值得一提的是,這個全球最大超級計算中心在今年3月方才動工,計畫是2025年竣工,沒想到僅僅只用了四個月,就提前完成了。
超級計算中心的正式啟用,將拉響馬斯克反攻OpenAI的號角。
馬斯克修建超級計算中心的根本原因,就是為了訓練xAI的聊天機器人Grok。
2023年7月馬斯克成立了xAI,其核心初創成員來自OpenAI、GoogleDeepMind、微軟研究院、特斯拉等知名企業。為了讓它能和ChatGPT直接競爭,馬斯克將最近兩年的大部分精力用xAI。
為了確保超級計算中心的落實,馬斯克公開聲稱他將親自掛帥,監督這台超級電腦的開發。
想要建造超級計算中心,選址無疑是關鍵。
據《福布斯》報導,馬斯克團隊先後與七八個城市進行了洽談,最終在3月份敲定在田納西州孟菲斯市,因為孟菲斯市將提供充足的電力和快速建設的能力。
值得一提的是,超級計算中心所需要的資源非常多,除了輝達晶片等基礎硬體之外,工廠每小時可能使用高達150兆瓦的電力,相當於10萬戶家庭所需電量,這可能會對當地來說會造成巨大的負擔。
除了電力資源之外,超級計算中心的冷卻預計每天需要130萬加侖的水,也就是說每天需要從孟菲斯的主要水源中抽取。
這也引發了孟菲斯市民以及環保組織的不滿,聯合發佈公開信抗議:“我們必須考慮,一個使用如此大量能源的行業將如何進一步影響已經被污染和高能源負擔壓得喘不過氣來的社區。”
為了完成工程,xAI承諾將改善孟菲斯市的公共基礎設施,以支援超級計算中心的發展,包括興建一個新的變電站和一個污水處理設施。
可以說,為了超級計算中心,馬斯克支付了堪稱天價的費用。按照成本估算,10萬個輝達H100,每個就高達3-4萬美元,總價值將達40億美元(折合人民幣超290億)。
巨額的資金投入就算馬斯克貴為“世界首富”,也很是吃不消,於是他聯合戴爾和超微一起建設叢集,並從甲骨文拿到了24000塊H100的資源。
雖然耗費了巨額資金,但馬斯克依然堅定不移的推動超級計算中心的建設。他在社交平台上用一句話做了總結:
“我們必須自己掌握方向盤。”
不得不說,為了能讓xAI追趕上OpenAI,馬斯克可謂是付出了所有。
在世界首富光環加持下,2023年7月才成立的xAI,剛剛才滿一歲,就已經具備挑戰OpenAI的資本和底氣。
今年4月13日,xAI推出了其首款多模態大模型Grok-1.5V,除了文字功能外,Grok現在還可以處理各種各樣的視覺資訊,包括文件、圖表、圖表、螢幕截圖、照片,並能進行多學科推理。
借助Grok-1.5V的誕生,xAI在資本市場上炙手可熱。
5月26日,xAI宣佈完成60億美元的融資,估值高達240億美元(約1738億人民幣)。此輪融資的投資者陣容強大,包括矽谷的知名風險投資公司紅杉資本(Sequoia Capital)和安德森·霍洛維茨(Andreessen Horowitz),以及一家與沙烏地阿拉伯王室聯絡緊密的投資基金。
OpenAI在過去十年間獲得融資總額為143億美金,xAI僅用了10個月的時間就融資了60億美元,相當於OpenAI十年融資額一半。
這也是大模型賽道史上最高單筆融資之一,超過Anthropic在2023年9月12日獲得的40億融資和10月28日獲得的20億美元融資,以及InflectionAI在2023年6月30日獲得的13億美元融資,融資總額僅次於OpenAI、Anthropic。
xAI能拿到AI賽道史上最高融資,自然離不開馬斯克的光環。尤其是馬斯克商業帝國中的其他公司為xAI幫了不少的忙。
據媒體報導,在xAI成立之初,特斯拉就派出了大約50名軟體工程師協助完成程式碼審查等任務。甚至還有一些特斯拉工程師直接加入了xAI。同時,特斯拉汽車所配備的大量攝影機和其他感測器所捕捉到的視訊資料,能為xAI的模型提供即時的資料輸入,幫助其接受訓練。
馬斯克名下的知名社交平台X,也能為xAI提供海量的由人類生成的資料。這些資料是訓練人工智慧系統如何更好地與人類互動的理想資源。
種種優勢相加,才能在一年時間誕生出估值高達240億美元的AI獨角獸,在資金、資料、晶片等層面可以和OpenAI掰一掰手腕。
7月1日,馬斯克社交平台公開表示,xAI下一步工作是從網際網路訓練的資料中清除大語言模型,計畫在8月推出下一代升級版Grok-2。
相信在下個月,就能看到Grok-2大戰GPT-4o了。
除了資金和晶片之外,AI大模型之間的競爭還有另一重要項,那就是人才。
馬斯克曾在社交平台上感慨:AI人才爭奪戰是他見過的最瘋狂的人才大戰。
作為世界範圍內的“知名網紅”,馬斯克的一舉一動,都能影響到一個賽道的走向。這份影響力和知名度也為馬斯克招攬到專業人才提供了便利。
據媒體報導,馬斯克曾從Google和微軟等科技巨頭挖來眾多的科研人員。其他公司的高管們抱怨說,xAI所提供的薪酬條件極具競爭力,使得他們在招聘市場上處於不利地位。
同時,馬斯克作為作為OpenAI主要聯合創始人之一,並在2015-2018年長期在董事會擔任董事,不僅貢獻了數千萬美元的資金,提供研究方向的建議,還在招募世界級人才上發揮了關鍵的作用。
雖然因為發展理念不同離開了OpenAI,但他對OpenAI的領導層無疑非常熟悉。
在成立xAI之時,馬斯克就從OpenAI高薪挖走的資料科學家凱爾·科西奇(Kyle Kosic)和Igor Babuschkin(伊戈爾·巴布什金)。
那怕是超級計算中心正式使用,馬斯克依然沒有停止招聘人才。
7月23日,xAI在全球範圍內啟動招聘,提供了包括AI工程師和各類主管人員在內的近30個崗位。除了提供具有競爭力的薪酬和股權激勵,xAI的福利待遇也頗為引人注目,甚至經過批准還能享受無限期帶薪休假。
那怕AI元年已經過去了一年多,但AI軍備競賽依然在持續升溫。
就算是馬斯克,也在不斷加碼xAI,直至超越OpenAI才罷休。 (鋅財經)