在 AI 晶片的競技場上，輝達長期佔據著舞台中央位置。但在今天，Google用一次罕見的晶片大閱兵，向外界展示了它不甘於只做配角的野望。Google在官方部落格宣佈，在短短一年之內，他們接連推出了 4 款第八代張量處理單元系統。
從主打海量 AI 訓練的 8t，到專為即時 AI 推理設計的 8i，再到強調機密計算的 8tx 以及擁有超大記憶體的 8i Max。這套組合拳展示了Google在底層晶片硬體上的迭代速度，也在輝達正面臨行業動盪和審視的當下，拋出了一份頗具針對性的替代方案。
Google兩款新武器的精準打擊
此次新發佈的兩款系統，瞄準了智能體時代的痛點。第一個產品是 TPU 8tx，它把安全防護直接做進了硬體底層裡頭。日常我們在網路上傳輸資料會進行加密，但是當資料進入電腦記憶體被處理時，通常需要解密。
對於政府以及金融等對資料極度敏感的機構來說，這是一個非常大的安全隱患。TPU 8tx 基於 8t 的晶片打造而來，搭配了 AMD 公司的處理器。它的關鍵能力在於，可以讓敏感資料和模型權重在記憶體中被計算時，也能夠處於隔離和保護的狀態。
並且它在實現這種高安全性的同時，性能基本沒有損耗，延遲比普通版本降低了大約一半。這意味著企業使用者可以在同一個系統裡，安全地用自己的私密資料去微調模型或者訓練 AI 智能體。
另一款系統是 TPU 8i Max，是為瞭解決記憶體牆問題而生。當幾十個 AI 智能體同時的工作時候，或者需要一次性處理長達數小時的視訊的時候，限制處理速度的往往是記憶體頻寬。資料搬運一旦跟不上，再強的算力也只能幹等著。
Google直接把兩顆 8i 晶片封裝在了一起，拼成了一個全新的雙晶片系統。這讓它的算力、靜態隨機存取記憶體器以及記憶體頻寬全部翻倍。更為精妙的地方在於，它完全不需要佔用更大的機架空間，在原有的大小裡塞進了兩倍之多的矽。
這讓 AI 資料中心在同樣的面積和功耗下，可以部署更強大的計算叢集。這兩款新系統底層都基於已有的晶片，利用不同的封裝和配置快速組合，能夠精準覆蓋不同的細分需求，這也解釋了為何Google能夠一年推四款晶片。
除了硬體本身的強悍之外，Google還在這批新系統上重構了軟體易用性。之前，張量處理單元主要服務於內部高度定製化的框架，普通開發者要想上手使用，一般需要重寫大量程式碼。如今年Google開源了 TorchTPU，讓廣受歡迎的 PyTorch 程式碼以及 Hugging Face 模型能夠原生運行在張量處理單元上。
不但如此，Google還推出了開源智能體套件，能夠直接接入各種主流的程式碼編輯器。開發者僅僅需要用簡單的語言描述需求，系統就可以自動完成硬體配置、診斷瓶頸和調整參數。對於那些需要長時間運行的智能體來說，Google還推出了自動掛起和恢復功能。
當 AI 智能體在等待資料庫查詢或者人類反饋時，系統會自動暫停那些閒置的會話，從而能夠大幅削減營運成本。正是這些軟體層面的努力，徹底拆除了硬體准入的高門檻。
TPU 的故事：從內部工具到百億生意
回顧以往，Google研發張量處理單元已經超過十年之久。一開始，這只是為了滿足Google內部語音識別和翻譯的需求而設計的一款專用加速器。如今八代產品更迭下來，它的用途已經發生了非常大的變化。
目前它不僅用來訓練和運行Google自家的 Gemini 大模型，還要處理海量的 AI 智能體工作負載。此外，它也通過Google雲服務走向了外部客戶市場，甚至能夠直接部署到客戶自己的資料中心裡。據瞭解，這項業務正在快速地增長，已經擁有近百家外部客戶，涵蓋了前沿實驗室、交易公司、零售商以及大學等。
在早期的設計思路中，Google就意識到 AI 軟體的進化速度遠遠地快於硬體製造的周期。他們在架構設計之初就押注了系統的平衡與模組化，把晶片當成搭積木的基礎模組，以便工程師可以快速調整封裝、記憶體和網路。
這種設計理念讓Google能夠針對不同的工作負載，快速地組裝出不同特性的超級電腦。以這次發佈的系統為例，它就是針對特定的客戶需求，在幾個月內完成的一款定製化組合。
隨著 AI 計算從服務人類使用者到走向支撐海量 AI 智能體自動運行，企業對於能跨越大上下文窗口進行推理的加速器需求激增。AI 智能體需要記住之前的對話、查閱大量的資料，並在多步推理之中保持邏輯連貫。
這對晶片的記憶體容量以及頻寬提出了嚴苛的要求。傳統通用晶片在面對這種連續且龐大的資料吞吐時，往往是顯得力不從心。Google首席技術官 Amin Vahdat 在官方部落格中表示，這種計算模式的變化，正是此次新系統誕生的商業背景。那就是企業不再僅僅需要極致的算力，更需要能夠高效處理海量上下文、並且能夠保障資料絕對安全的定製化系統。
除了記憶體以及安全的挑戰，軟體棧的協同也是決定算力是否可以真正轉化為產出的關鍵。Google發現硬體只有配合高度最佳化的編譯器和調度工具，才可以發揮出最大效能。為此，這次他們不僅更新了硬體，還一併開源了模形狀態層 TPU Sync。
這項技術能夠把晶片的高頻寬記憶體、主機的動態隨機存取記憶體器、共享記憶體以及資料中心網路統一起來，變為一個協同設計的單一記憶體層級。它可以在毫秒級自動把龐大的快取資料移出晶片，也能在不同節點之間流式傳輸上下文。這種從系統全域出發的最佳化方式，可以有效縮短模型生成第一個字的時間，讓強化學習的權重同步變得更高效。
16 年教授級晶片老兵掌舵，直接匯報Google CEO 皮查伊
主導Google這項底層基礎設施戰略的，是Google AI 與基礎設施高級副總裁兼首席技術官 Amin Vahdat。Amin Vahdat 擁有美國加州大學伯克利分校電腦科學博士學位，早年曾在施樂帕克研究中心實習，後在美國杜克大學和美國加州大學聖地亞哥分校任教。
他於 2010 年正式加入Google，長期主導 TPU 晶片、Jupiter 網路以及 Borg 叢集管理系統等核心基礎設施的研發，2025 年被提拔為Google AI 基礎設施首席技術專家，直接向Google CEO 皮查伊匯報。
他在官方部落格中闡述了Google的底層邏輯，其表示設計一顆全新的晶片，需要在矽片上排布高達數十億個的電晶體，這會受制於物理定律和漫長的製造周期，往往需要數年時間之久。可是圍繞晶片去打造一個系統，包括封裝、高速記憶體、光網路以及安全配置，卻可以在幾個月內實現交付。
一直以來，Google的底牌在於模組化和系統平衡。他們把晶片當成一塊塊積木，通過系統級的靈活性，在細分戰場上建立了據點。這種思路讓其能夠以更快的節奏，交付出來專用的超級電腦。
為了進一步地釋放系統的潛力，Google還在網路拓撲和叢集管理花了心思。他們推出了雲通路技術，讓使用者可以通過單一控製器，像操作一台本地機器那樣，去編排跨越多台裝置的大規模張量處理單元系統，從而能夠在大規模預訓練或強化學習中，應對硬體故障所帶來的中斷，實現快速切片熱插拔以及彈性重新分片。
在叢集的物理連接上，Google利用動態切片技術，將物理硬體的配置和邏輯切片的形成解耦。基於光路交換技術，他們能夠根據實際任務的大小，即時地組裝出更大規模的拓撲，也能將其劃分為更小的隔離工作負載。這種拓撲上的靈活性，極大地縮短了作業的啟動時間和故障恢復周期，最佳化了整體叢集的利用率。
Google也開始利用 AI 來協助建構下一代基礎設施，比如他們使用 AlphaChip 強化學習系統進行晶片佈局，以及使用 Gemini 在幾個小時內生成原本需要幾周才能完成的版圖設計。這種使用自家 AI 加速自家硬體研發的循環，成為了Google和其他 AI 廠商競爭時的優勢之一。
這場算力之爭的勝負尚無定論，甚至Google的主業也並不在這方面，而最終取決於誰能更高效地承接智能體時代爆發出的真實需求。
Google的攻勢是非常清晰的，即它利用系統級的靈活性，在安全推理、超大記憶體等細分但關鍵的戰場上建立戰略據點。而輝達的動盪期，恰好給了Google一個展示另一種選擇的時間窗口。隨著底層硬體以及軟體生態的完善，在未來的 AI 基礎設施市場，註定會迎來更加多元的晶片競爭格局。 (問芯)