Google終於對輝達“護城河”下手！聯合Meta進軍軟體

據路透社報導，知情人士透露，Alphabet旗下的Google正在制定一項新計畫，旨在使其人工智慧晶片更好地運行PyTorch（全球使用最廣泛的人工智慧軟體框架），此舉旨在削弱輝達在人工智慧計算市場長期佔據的主導地位。

這是Google雄心勃勃計畫的一部分，旨在使其張量處理單元（TPU）成為輝達市場領先的GPU的有力競爭對手。TPU的銷售已成為Google雲收入的關鍵增長引擎，Google希望借此向投資者證明其人工智慧投資正在產生回報。

但僅靠硬體不足以推動普及。消息人士稱，這項內部代號為“TorchTPU”的新計畫旨在消除阻礙TPU晶片普及的關鍵障礙，使其完全相容並方便開發者使用，從而惠及那些已經使用PyTorch軟體建構技術基礎設施的客戶。一些知情人士還透露，Google正在考慮開源部分軟體，以加快客戶採用速度。

消息人士稱，與之前嘗試在TPU上支援PyTorch相比，Google投入了更多的組織關注、資源和戰略重視TorchTPU，因為希望採用這些晶片但認為軟體堆疊是瓶頸的公司的需求不斷增長。

PyTorch是一個開放原始碼專案，由Meta Platforms大力支援，是開發者建構人工智慧模型時最廣泛使用的工具之一。在矽谷，很少有開發者會編寫輝達、AMD 或Google等公司晶片實際執行的每一行程式碼。

相反，這些開發者依賴於像PyTorch這樣的工具。PyTorch是一系列預先編寫的程式碼庫和框架的集合，可以自動完成人工智慧軟體開發中的許多常見任務。PyTorch最初發佈於2016年，其發展歷程與輝達的CUDA開發密切相關。一些華爾街分析師認為，CUDA是輝達抵禦競爭對手的最強屏障，堪稱“護城河”。

輝達的工程師們多年來一直致力於確保使用PyTorch開發的軟體在其晶片上以儘可能高的速度和效率運行。相比之下，Google長期以來一直讓其龐大的內部軟體開發團隊使用名為Jax的不同程式碼框架，其TPU晶片則使用名為XLA的工具來最佳化程式碼運行。Google自身的大部分AI軟體棧和性能最佳化都是圍繞Jax建構的，這進一步拉大了Google晶片的實際使用方式與客戶實際使用方式之間的差距。

Google雲發言人沒有對該項目的具體細節發表評論，但證實將為客戶提供更多選擇。

發言人表示：“我們看到市場對TPU和GPU基礎設施的需求都在大幅增長，而且增長速度還在加快。我們的重點是提供開發者所需的靈活性和可擴展性，無論他們選擇使用那種硬體進行開發。”

Alphabet長期以來一直將絕大部分自研晶片（即TPU）僅供內部使用。這種情況在2022年發生了改變，當時Google的雲端運算部門成功遊說，獲得了對TPU銷售部門的監管權。此舉大幅增加了Google雲的TPU分配量，隨著客戶對人工智慧的興趣日益濃厚，Google也開始尋求通過擴大TPU的生產和銷售來從中獲利，並將TPU推向外部客戶。

但由於全球大多數人工智慧開發者使用的PyTorch框架與Google晶片目前最佳化運行的Jax框架之間存在不匹配，大多數開發者無法輕易地採用Google晶片並使其性能達到輝達晶片的水平，除非進行大量的額外工程工作。在瞬息萬變的人工智慧競賽中，這樣的工作需要耗費時間和金錢。

如果成功，Google的“TorchTPU”計畫將顯著降低企業尋找輝達GPU替代方案的成本。輝達的統治地位不僅得益於其硬體，也得益於其CUDA軟體生態系統。CUDA軟體生態系統深度嵌入PyTorch，並已成為企業訓練和運行大型AI模型的默認方法。

消息人士稱，企業客戶一直告訴Google，TPU更難應用於AI工作負載，因為TPU歷來要求開發人員切換到Jax（Google內部偏愛的機器學習框架），而不是大多數AI開發人員已經在使用的PyTorch。

據消息人士透露，為了加快開發速度，Google正與PyTorch的建立者和管理者Meta密切合作。這兩家科技巨頭一直在商討Meta獲取更多TPU的方案。

Meta早期提供的服務以Google管理服務的形式呈現，客戶（例如Meta）安裝Google設計的晶片來運行Google的軟體和模型，Google則提供營運支援。知情人士透露，Meta對開發能夠簡化TPU運行的軟體抱有戰略興趣，旨在降低推理成本，並使其人工智慧基礎設施擺脫對輝達GPU的依賴，從而提升談判優勢。

今年，Google開始直接向客戶的資料中心銷售TPU，而不是限制在其自有雲平台上使用。本月，Google老將Amin Vahdat被任命為人工智慧基礎設施負責人，直接向首席執行長桑達爾·皮查伊匯報工作。

Google需要這種基礎設施，既可以運行自己的AI產品（包括Gemini聊天機器人和AI驅動的搜尋），也可以為Google雲的客戶提供服務，Google雲向Anthropic等公司出售TPU的存取權。 (北美商業見聞)