#PyTorch
Google終於對輝達“護城河”下手!聯合Meta進軍軟體
據路透社報導,知情人士透露,Alphabet旗下的Google正在制定一項新計畫,旨在使其人工智慧晶片更好地運行PyTorch(全球使用最廣泛的人工智慧軟體框架),此舉旨在削弱輝達在人工智慧計算市場長期佔據的主導地位。這是Google雄心勃勃計畫的一部分,旨在使其張量處理單元(TPU)成為輝達市場領先的GPU的有力競爭對手。TPU的銷售已成為Google雲收入的關鍵增長引擎,Google希望借此向投資者證明其人工智慧投資正在產生回報。但僅靠硬體不足以推動普及。消息人士稱,這項內部代號為“TorchTPU”的新計畫旨在消除阻礙TPU晶片普及的關鍵障礙,使其完全相容並方便開發者使用,從而惠及那些已經使用PyTorch軟體建構技術基礎設施的客戶。一些知情人士還透露,Google正在考慮開源部分軟體,以加快客戶採用速度。消息人士稱,與之前嘗試在TPU上支援PyTorch相比,Google投入了更多的組織關注、資源和戰略重視TorchTPU,因為希望採用這些晶片但認為軟體堆疊是瓶頸的公司的需求不斷增長。PyTorch是一個開放原始碼專案,由Meta Platforms大力支援,是開發者建構人工智慧模型時最廣泛使用的工具之一。在矽谷,很少有開發者會編寫輝達、AMD 或Google等公司晶片實際執行的每一行程式碼。相反,這些開發者依賴於像PyTorch這樣的工具。PyTorch是一系列預先編寫的程式碼庫和框架的集合,可以自動完成人工智慧軟體開發中的許多常見任務。PyTorch最初發佈於2016年,其發展歷程與輝達的CUDA開發密切相關。一些華爾街分析師認為,CUDA是輝達抵禦競爭對手的最強屏障,堪稱“護城河”。輝達的工程師們多年來一直致力於確保使用PyTorch開發的軟體在其晶片上以儘可能高的速度和效率運行。相比之下,Google長期以來一直讓其龐大的內部軟體開發團隊使用名為Jax的不同程式碼框架,其TPU晶片則使用名為XLA的工具來最佳化程式碼運行。Google自身的大部分AI軟體棧和性能最佳化都是圍繞Jax建構的,這進一步拉大了Google晶片的實際使用方式與客戶實際使用方式之間的差距。Google雲發言人沒有對該項目的具體細節發表評論,但證實將為客戶提供更多選擇。發言人表示:“我們看到市場對TPU和GPU基礎設施的需求都在大幅增長,而且增長速度還在加快。我們的重點是提供開發者所需的靈活性和可擴展性,無論他們選擇使用那種硬體進行開發。”Alphabet長期以來一直將絕大部分自研晶片(即TPU)僅供內部使用。這種情況在2022年發生了改變,當時Google的雲端運算部門成功遊說,獲得了對TPU銷售部門的監管權。此舉大幅增加了Google雲的TPU分配量,隨著客戶對人工智慧的興趣日益濃厚,Google也開始尋求通過擴大TPU的生產和銷售來從中獲利,並將TPU推向外部客戶。但由於全球大多數人工智慧開發者使用的PyTorch框架與Google晶片目前最佳化運行的Jax框架之間存在不匹配,大多數開發者無法輕易地採用Google晶片並使其性能達到輝達晶片的水平,除非進行大量的額外工程工作。在瞬息萬變的人工智慧競賽中,這樣的工作需要耗費時間和金錢。如果成功,Google的“TorchTPU”計畫將顯著降低企業尋找輝達GPU替代方案的成本。輝達的統治地位不僅得益於其硬體,也得益於其CUDA軟體生態系統。CUDA軟體生態系統深度嵌入PyTorch,並已成為企業訓練和運行大型AI模型的默認方法。消息人士稱,企業客戶一直告訴Google,TPU更難應用於AI工作負載,因為TPU歷來要求開發人員切換到Jax(Google內部偏愛的機器學習框架),而不是大多數AI開發人員已經在使用的PyTorch。據消息人士透露,為了加快開發速度,Google正與PyTorch的建立者和管理者Meta密切合作。這兩家科技巨頭一直在商討Meta獲取更多TPU的方案。Meta早期提供的服務以Google管理服務的形式呈現,客戶(例如Meta)安裝Google設計的晶片來運行Google的軟體和模型,Google則提供營運支援。知情人士透露,Meta對開發能夠簡化TPU運行的軟體抱有戰略興趣,旨在降低推理成本,並使其人工智慧基礎設施擺脫對輝達GPU的依賴,從而提升談判優勢。今年,Google開始直接向客戶的資料中心銷售TPU,而不是限制在其自有雲平台上使用。本月,Google老將Amin Vahdat被任命為人工智慧基礎設施負責人,直接向首席執行長桑達爾·皮查伊匯報工作。Google需要這種基礎設施,既可以運行自己的AI產品(包括Gemini聊天機器人和AI驅動的搜尋),也可以為Google雲的客戶提供服務,Google雲向Anthropic等公司出售TPU的存取權。 (北美商業見聞)
剛剛,「PyTorch之王」攜15億薪酬殺回Meta!史上最貴AI天才巨星誕生
【新智元導讀】小扎又挖到AI明星了!爆料稱,Thinking Machines聯創、PyTorch之王Andrew Tulloch回歸Meta,本人已在周五內部信官宣。他是曾拒絕15億美元薪酬包,讓全網轟動一時的AI大佬。PyTorch之王,真的回歸Meta了!WSJ獨家爆料稱,Thinking Machines證實——聯合創始人之一、明星AI研究員Andrew Tulloch離職加盟Meta。周五,Tulloch一封內部信,官宣了這一決定。今年8月,他曾豪拒小扎15億美元薪酬報價,在全網火得一塌糊塗。Tulloch不僅是Thinking Machines Lab聯創,還是首席架構師。在此之前,他曾在Meta幹了11年;隨後2023年加入OpenAI,重點參與了GPT-4o、GPT-4.5預訓練,o系列推理的研發。Thinking Machines一位發言人在聲明中表示,「出於個人原因,Tulloch決定尋求一條不同的發展道路」。有網友猜測,他這次回歸,至少拿到了20億美元。PyTorch靈魂人物遭矽谷瘋搶個人首頁中,Andrew Tulloch本科就讀於雪梨大學,並獲得了數學專業學士學位。在校期間,他取得了一等榮譽學位(First Class Honours),GPA拿下了93分高分。隨後,Tulloch又獲得了劍橋大學數學統計學碩士學位。畢業後,Tulloch在Meta任職最久,曾參與了大規模機器學習系統。這期間,還發生了一件軼事。2016年,Tulloch在加入Facebook(現Meta)的幾年後,OpenAI總裁Greg也曾親自下場挖人。他在給馬斯克的一封郵件中,寫道「Tulloch在Facebook的年薪是80萬美元,他很可能會嘗試談判加薪」。當時,OpenAI新員工薪酬為:年薪17.5萬美元+年度獎金12.5萬美元。他幾乎快要答應加入了,但是,又擔心薪資差距過大,最終還是拒絕了。七年後,當ChatGPT已經火爆全球,OpenAI估值飆升時,Tulloch才做出了加盟的選擇。如今,他能夠一口氣拒掉十位數薪酬包,讓所有人大為震驚。Meta前高管Mike Vernal對Tulloch更是讚不絕口,「他是一位絕對公認的AI天才」。小扎挖角,從未停止與其他頂尖科技公司一樣,Meta在AI領域也雄心勃勃:僅今年就計畫在資本支出上投入高達720億美元,主要用於建設資料中心以訓練其AI模型。Meta斥資千億美元猛攻AI,祖克柏宣稱「超級智能已見曙光」最近幾周,Meta發佈了最新的AI產品——一款AI視訊生成器,並在其Meta AI應用中為該功能設定了專屬標籤頁。但不久後,OpenAI發佈了類似產品——Sora 2。近幾個月來,祖克柏一直扮演著公司「首席招聘官」的角色,通過電子郵件和社交軟體直接聯絡AI研究員,並邀請他們到家中用餐,向他們描繪公司藍圖。他致力於延攬頂尖人才,在某些情況下甚至開出了價值1億美元或更高的薪酬包。Meta最終從OpenAI、Google DeepMind、Apple、Anthropic和xAI等公司挖來了超過50名AI研究員、工程師及其他員工,並將其AI團隊重組為新成立的超級智能實驗室 (Superintelligence Labs) 部門。Meta還與資料標註初創公司Scale AI達成協議,收購其49%的股份,並聘請其首席執行官Alexandr Wang負責這個新部門。目前,Meta 的超級智能實驗室部門下設四個團隊,其中包括TBD實驗室。該團隊緊鄰祖克柏的辦公區,正致力於開發公司下一代名為 Llama 的大語言模型。這次人事變動是Meta最新的一次重磅引援。隨著公司將重心轉向整合新組建的人才密集型AI團隊,並致力於實現其所謂的「超級智能」,其在鼎盛時期的招聘狂潮已有所放緩。 (新智元)