天垓300實測對標H200：
國產GPU從性能追趕邁向高價值應用競爭
從複雜模型推理到Token工廠、物理AI，天數智芯展示高品質算力的真實價值
10月28日，“從模型到世界”天數智芯2026媒體開放日活動在上海舉辦。天垓300首次面向媒體開放實機演示，基於天垓300的AFD分離方案、IXL144超節點方案，以及天數智算軟體棧、彤央端側算力終端同台亮相，並預告標稱算力達600T的下一代端側產品。上海儀電今年7月完成的第三方實測顯示，在典型PD分離部署下，天垓300折算單卡整體端到端吞吐達到H200的1.05倍，這是國內首個實測性能達到H200水平的通用GPU。與此同時，軟體棧展示“用AI開發AI”的新路徑，彤央TY1200在實測中超越Thor T5000。
為什麼要對標H200？作為大模型推理和複雜計算領域具有代表性的高水平GPU，H200水平是衡量先進AI算力的重要標竿。天垓300在真實業務測試中達到這一水平，標誌著國產通用GPU邁過了一道具有重要意義的性能門檻：開始具備在複雜AI任務和高算力市場中快速發展的實力。這也意味著國產GPU正在進入新階段——從解決“能不能用”的問題，轉向比拚實際產出、運行效率和經濟價值。
天數智芯將這一階段的標準概括為高品質算力——“高效率、可預期、可持續”——相同投入能產出多少有效結果，長時間運行能否穩定，面對不同模型、業務和部署方式能否持續發揮作用。在天數智芯看來，雲端生產智能，軟體加速適配與最佳化，端側讓智能進入更多現場，形成讓高品質算力持續生長的增強回路。
實測對標H200：走向複雜AI任務的性能門檻
對標H200的看點，在於測試所對應的真實業務。上海儀電今年7月針對四大主流模型、三類場景開展測試，在大模型典型的PD分離部署下，天垓300折算單卡整體端到端吞吐達到H200的1.05倍。這裡比較的不是理論峰值，而是在特定模型和部署條件下，整條推理鏈路的實際輸出能力。
天數智芯性能實驗室的實測進一步覆蓋典型業務場景：在64K長上下文下，天垓300的Attention性能為H200的1.05倍；GLM-5.3模型64K規模下，保障同等使用者體驗的同時，MoE吞吐為H200的1.15倍；8K至128K長上下文場景下Agent首字延遲較H200降低約10%—30%；多模態生成推理吞吐相較H200提升約2%—5%；在搜廣推等線上業務中，推薦推理吞吐提升21%、輕量計算時延降低26%。活動現場開放天垓300實機演示，接受與H200在GLM5.3等大語言模型、文生圖、文生視訊場景的對比測試。
這些指標各自對應著使用者能夠感知的體驗。長上下文處理關係到長文件分析和複雜Agent能否高效運行；MoE吞吐影響同等服務要求下系統承接請求的能力；首字延遲則直接關係到使用者發出請求後的等待時間。此次對標說明天垓300已在多類關鍵負載上進入與國際主流高水平GPU直接比較的區間。
訓練方面，在基於Qwen3-32B模型的8卡整機FP8精度訓練演示中，天垓300每卡有效吞吐達到H100的1.33倍。目前，強化學習已成為OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、Minimax、Kimi等國內外主力模型公開採用的核心後訓練路線。天垓300同樣勝任強化學習訓練，據條件性工程估算，以1024張卡對已有預訓練基座開展一次強化學習，在40B啟動參數的中心情景下，約26天可完成約1T總參數MoE模型的500億生成Token強化學習任務。
隨著日均Token呼叫量較2024年初增長上千倍，Token工廠正成為算力規模化落地的熱門形態，也是高品質算力三要素的集中檢驗場。各項表現顯示，天垓300高度滿足Token工廠對算力的各項實際要求。
首先是高效率。電力、機房和固定維運等支出難以隨意壓縮，單位Token成本很大程度上取決於裝置投入和有效吞吐。在前述第三方測試條件下，天垓300折算單卡端到端吞吐達到H200的1.05倍，為單位時間內生產更多有效Token提供了性能基礎。
其次是可預期。Token工廠不能只在短時測試中跑得快，還要在長時間滿負荷執行階段保持穩定。天垓300滿負荷運行的步時波動為0.43%，低於對比Hopper方案的0.76%，長時間高負載不掉鏈子，直接保障利用率與可用率。
最後是可持續。天垓300通用架構原生支援CUDA語義，主流框架均已適配，並提供從加速卡、伺服器到超節點的不同部署形態，面向多種模型與業務需求。
天垓300同時提供開放、可組合的異構計算平台解決方案。以通用GPU為底座，支援混合訓練、PD分離與AFD分離等多種部署形態，可與其他廠商的加速卡、專用晶片協同。以AFD分離為例，天垓300承擔Prefill全流程計算與解碼階段的Attention，合作廠商的XPU承擔FFN專家網路，兩類晶片在統一調度下異構協同，實測Decoding推理延遲可降低60%，該方案已實際跑通，是國內第一個基於GPU+XPU的異構部署AFD分離方案。
“未來的AI算力系統，不一定由一種晶片包打天下。”天數智芯AI與加速計算負責人單天逸表示，“關鍵是如何把它們高效組織起來，讓整個系統發揮更大的價值。我們希望通過開放的異構計算能力，讓客戶充分利用已有算力資產，以更靈活的方式建構適合自身業務的計算系統。”
高品質算力的價值，由此不只是測試成績，而是能夠持續投入實際生產的能力。天數智芯更將通用算力延伸至科學智算與物理AI等前沿領域，加速科學發現和產業應用。天垓300全面支援Boltz-2、OpenFold3、Protenix等模型及Newton、Warp、ALCHEMI等框架，覆蓋生命科學、物理AI、化學與材料四大領域近百個典型場景，涵蓋蛋白結構預測、藥物篩選、機器人模擬、分子動力學、材料結構最佳化等關鍵任務。
物理AI尤其體現出通用計算的新價值。機器人要進入真實世界，往往需要先在遵循物理規律的模擬環境裡反覆試錯，學習動作並驗證策略。天垓300的雲端模擬和計算能力，讓這種學習和驗證更充分。
在規模化交付側，天垓300已形成從加速卡、一機8卡伺服器到超節點的完整系統方案。天垓300 IXL144超節點在單個標準機櫃內整合144顆GPU、聚合約10.1TB視訊記憶體，是目前業界密度最高的單機櫃GPU超節點，據測算，其每百萬有效Token成本較國際主流方案可降低約40%。其新一代P2P互聯引擎面向Scale-up和Scale-out，目標是將域內單次傳輸延遲由3—5微秒降至1微秒；支援統一記憶體語義程式設計；同時支援大EP，將專家權重分散到更多核心。該方案已在工博會公開亮相，面向不同算力規模與機房條件的其他超節點方案也將陸續推出。
用AI開發AI：讓一位工程師的經驗，服務千千萬萬開發者
硬體性能達到可用區間之後，另一道門檻是開發者能否真正用好。新模型不斷出現，部署、適配和性能調優往往需要經驗豐富的工程師投入大量時間。如果這些環節仍然複雜，硬體性能就很難及時轉化為業務價值。天數智芯此次展示的軟體棧，讓AI不僅作為計算任務被運行，也參與AI系統自身的開發與最佳化。
活動現場，天數智芯副總裁石加聖圍繞“易於使用、易於最佳化、易於開發”三個層次，首次展示天數智算軟體棧全面擁抱Agentic AI的系統性佈局：基於多年GPU研發、模型適配和性能調優積累，將軟體棧、專業工具與工程經驗同Agent技術結合，讓一線開發者能夠圍繞場景目標和服務約束，直接呼叫工具、復用經驗、開展最佳化，加速邁向端到端智能開發。
“易於使用”方面，軟體棧將環境安裝、配置檢查與模型部署方法組織為智能體可呼叫的工具與技能，由AI協助執行並檢查結果，減少開發者反覆查閱文件、手動配置和排查問題的負擔。在模型PD分離部署實測中，環境準備與服務部署整體用時由1小時縮短至10分鐘，人工操作由數十步減少至1步，助力開發者更便捷地使用先進推理架構。
“易於最佳化”方面，軟體棧結合自研性能分析工具與調優經驗，讓AI依據真實運行資料定位瓶頸、提出最佳化方案，並通過測試驗證效果。根據某大模型調優任務實測，工作周期由7天縮短至2小時內；在相同硬體、模型和精度要求下，相關任務運行性能較最佳化前接近翻倍。開發者能夠更快開展最佳化、獲得反饋，減少對廠商技術支援的依賴。
“易於開發”方面，作為首家深度接入FlyDSL的國產GPGPU廠商，天數智芯通過Agent與FlyDSL協同，讓AI參與程式碼生成、編譯、測試和性能最佳化。開發者明確目標與約束，AI協助生成或修改候選實現，再根據正確性檢查和性能測試結果持續調整，最終完成自主開發、驗證與迭代，形成從目標提出到結果驗收的工程閉環。在某主流模型適配與調優實測中，過去10人天完成的工作，現在1人在小時級內就能完成，編譯速度提升90%以上，理想狀態可用1%的編譯時間實現99%的運行性能，為更快支援新模型、嘗試更多實現方案創造條件。
“Agentic AI讓一位工程師的經驗，能夠持續服務千千萬萬開發者。”石加聖表示，天數智芯將GPGPU工程師在模型適配、性能調優中積累的方法沉澱為可呼叫的工具與技能，讓模型和應用開發者能夠在自身工作流中復用專家經驗，更快獲得反饋、自主完成最佳化。GPGPU工程師則能將更多精力投入複雜性能問題的解決，並持續將新的工程積累提供給開發者。
彤央TY1200實測超ThorT5000：雲端能力下沉端側
物理世界的資料量持續增長，對感知、規劃與執行提出毫秒級響應要求，合同、科研等涉及資料安全的任務要求算力必須“貼著資料跑”，業務需求讓算力必須分層。與此同時，小參數量模型能力提升，讓更多工具備邊端部署條件，技術演進使算力可以分層。客戶對長期使用成本的關注，要求算力投入更精準：簡單任務不必都上雲，複雜任務也不宜一律下沉，成本約束讓分層值得做。
業務上“必須”，技術上“可以”，經濟上“值得”，算力分層由此成為現實選擇：大規模訓練與複雜復判留在雲端，要求即時響應、涉及資料安全、需要現場閉環的任務，放在端側。
“雲端GPU廠商做端側，不是把晶片做小，而是把能力下沉。”天數智芯彤央產品市場負責人宋遠盈表示。天數智芯在雲側大規模訓練與推理中積累的模型壓縮、量化、蒸餾和軟硬協同能力，連同通用GPU架構、編譯器、算子庫和性能工具，被一起帶到邊端。模型因此可以“生在雲、長在邊”：雲端訓練、邊端部署，需要時再由雲端復判，模型能力與精度保持銜接。在客戶現場積累的高負載交付經驗，也為工業應用、具身智能等高度要求穩定性的場景交付提供能力基礎。
彤央以一套生態、兩種形態、五款產品覆蓋從客戶自主整合到即用型部署的需求；端雲接續的技術路線，“把雲的能力摺疊進方寸之間”，也讓客戶的邊端投入具備長期延續性。其中，彤央TY1200端側算力終端標稱300 TOPS稠密算力，而非行業慣用的稀疏峰值；在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型實測中，TY1200性能達到Thor T5000的1.2倍。以實測稠密算力超越標稱算力更高的晶片，端側的有效產出同樣不被標稱算力定義。
在本地部署場景，TY1200讓原本必須上雲的任務在資料端內閉環。合同稽核、投資BP分析等對資料安全高度敏感的工作，可基於本地部署的大模型離線處理，安全的同時，也可節省算力支出；視訊生成這類高算力任務也在本地跑通——基於MiniMax H3開源視訊模型，TY1200平均6分鐘生成1056×608解析度、時長5秒的視訊，1376×768解析度下平均用時11分鐘，全程在本地進行，不產生任何雲端呼叫費用。它還能流暢運行推理應用，並承擔小模型的本地訓練。
在物理AI場景，TY1200成為具身智能裝置的大腦。這個大腦不僅可以內建，還可“外掛”。TY1200首次在國產端側產品上實現基於MuJoCo-Warp的GPU加速物理模擬，機器人動作學習所需的大規模平行模擬可在本地終端完成。活動現場，MicroDuck動作演示呈現“本地模擬—策略訓練—動作驗證”的完整鏈路；搭載TY1000算力模組的機器狗在本地完成人臉識別與跟隨主人，形成“感知—決策—行動”閉環。世界模型等物理AI負載同樣在本地運行，在Cosmos-R2-2B和Cosmos-R2-8B測試中，TY1200的實測性能分別達到Thor T5000的158%和180%；
性能最終要進入真實任務。在儲能電芯研究案例中，TY1200支援科研智能體自動採集、治理實驗資料，並可在約2分鐘內生成報告；應急視覺識別案例，端側CV與多模態大模型交叉驗證，將識別精準率由70%提升至95%；在文旅案例中，同一台TY1200，白天提供智能導覽、夜間訓練CV小模型；搭載TY1200的陪診機器人，已在上海市陽光康復中心服務視障人士，負責導診、分診與帶路。
TY1200此前已獲2026工博會CIIF國芯展創新成果獎。活動現場，天數智芯還預告下一代端側產品彤央TY2000，標稱算力將達600T，把雲端能力下沉的邊界再向前推進一步。
雲端高效生產智能，軟體加速進化，端側拓寬現實應用、連接物理世界，三端協同構成高品質算力的“增強回路”，讓高效率、可預期、可持續在循環中複利式積累。
產品層面的複利，最終要回答產業層面的命題。算力是發展新質生產力的關鍵底座，中共中央、國務院《關於發展新質生產力的意見》提出，全面實施“人工智慧+”行動、強化算力演算法資料高效供給，加快人形機器人等新一代智能終端的場景應用。從雲端天垓300、天數智算軟體棧，到端側彤央算力終端，天數智芯以貫通雲邊端的產品體系，把高品質算力落實為可實測、可復現、可交付的有效產出，為“人工智慧+”在千行百業的規模落地，提供高品質算力支撐。(深科技)