8月25日，Hot Chips 2026大會上，OpenAI正式公開首款自研推理專用ASIC Jalapeño 的實測測試結果。在限定推理場景基準測試之下，這款與博通聯合開發的專用晶片，單位功耗吞吐量、端到端延遲指標優於輝達GB200/GB300系統。
但需要明確：該晶片定位純推理加速器，不承擔模型訓練任務，且僅供OpenAI內部部署，不會對外銷售；OpenAI同時強調，輝達依舊是核心算力合作夥伴，並非簡單的“替代關係”。
當大模型行業的重心，逐步從昂貴的預訓練，轉向海量使用者請求構成的推理側，算力成本、響應延遲，已經成為頭部AI企業最棘手的現實瓶頸。OpenAI交出的解法，不再只是採購更多高端GPU，而是下場自研專用推理晶片。
根據OpenAI官方部落格與Hot Chips大會披露資訊，Jalapeño由OpenAI硬體團隊聯合博通共同開發，台積電3nm工藝製造，採用脈動陣列架構，搭載HBM4高頻寬記憶體，晶片定位純粹面向大語言模型推理，不支援大模型訓練工作負載。
一個非常受行業關注的點，是它的開發周期：從架構定義到完成流片僅9個月，遠高於傳統高性能ASIC 18‑36個月的行業常規節奏。OpenAI表示，自身大模型深度參與晶片設計驗證流程，大幅壓縮模擬與迭代周期，實現“AI輔助設計AI晶片”的開發閉環 。
實測資料：推理場景能效顯著佔優，但有明確測試邊界
本次性能結果基於第三方機構SemiAnalysis的InferenceX推理基準套件完成，對比對象為輝達GB200、GB300整機系統，測試模型覆蓋GPT‑OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T三款大模型。
官方披露核心指標：
1. 能效吞吐量：峰值工況下，Jalapeño每瓦AI吞吐量達到對比GPU系統的1.5‑1.9倍；運行DeepSeek R1模型，每瓦性能約為GB300的1.7倍；GPT‑OSS 120B模型下每千瓦峰值吞吐量達到GB200的1.9倍。
2. 延遲表現：端到端推理延遲下降至對比系統的28%‑59%；高互動對話場景，性能優勢擴大至2.1‑4.1倍，對ChatGPT這類高並行對話業務價值突出。
3. 功耗參數：晶片額定功耗700W，高負載實測持續功耗可維持550W以內，遠低於GB300的1400W標稱功耗，對資料中心供電、散熱壓力明顯降低。
重要邊界提示：上述領先僅限定大模型推理場景基準測試，不代表晶片綜合能力全面超越Blackwell。GB系列作為通用GPU，兼顧訓練、微調、多模態、通用計算等廣泛任務；Jalapeño是專用ASIC，能力收斂於LLM推理，二者產品定位本身並不完全對等。OpenAI也未公佈與輝達新一代Vera Rubin晶片的對標測試資料。
定位：內部自用，並非要徹底甩開輝達
很多解讀將Jalapeño解讀為“OpenAI向輝達宣戰”，但從官方口徑看，現實更為務實。
1. 不對外售賣：Jalapeño晶片、配套伺服器機架全部僅供OpenAI內部算力叢集使用，不會作為商業晶片對外供貨。單組機架部署128顆晶片，完整Pod由2048顆晶片組成，建構大規模推理算力池。
2. 部署節奏：計畫2026年底小規模上線部署，2027年逐步擴大算力規模；第二代晶片已經進入後期開發，第三代啟動概念設計，是一套多代迭代的長期算力平台，而非一次性項目。
3. 多供應商策略不變：OpenAI硬體負責人Richard Ho在採訪中明確，輝達依舊是重要合作夥伴。自研ASIC核心目標，是壓低自身推理業務TCO總擁有成本，補齊推理側算力供給，而非全盤替換GPU。訓練任務依舊高度依賴輝達高端GPU叢集。
簡單來說：OpenAI需要的不是“幹掉輝達”，而是手上多一張算力籌碼。每年數十億美元GPU採購成本壓力、高端算力供貨周期約束，倒逼頭部AI廠商走向晶片自研。
推理ASIC時代正在到來，通用GPU並非萬能
Jalapeño最大的行業意義，不在於跑分高低，而在於驗證一個趨勢：當業務足夠大，專用ASIC可以在推理場景，取得顯著優於通用GPU的綜合成本優勢。
過去數年，CUDA生態統治AI全端，訓練、推理一把抓。但推理負載具備完全不同的特徵：極度看重記憶體頻寬、token生成延遲、單位能耗產出，對通用計算能力需求有限。通用GPU需要兼顧極廣的任務相容，架構上就必然存在冗餘開銷。
OpenAI這套模式，給出了頭部大模型公司的範本：
- 訓練繼續仰仗通用GPU強大的可程式設計能力與生態；
- 大規模線上推理，用高度定製ASIC換取更低功耗、更低單Token成本、更低訪問延遲。
當然，這套路線門檻極高。Jalapeño的成功，建立在OpenAI手握海量真實推理流量、掌握模型細節、有資金支撐流片試錯，普通AI企業很難複製這套自研路徑。同時ASIC也存在短板：架構固化，面對快速迭代的多模態、新模型架構，靈活性遠不如GPU。
結語
Jalapeño的亮相，不代表通用GPU時代落幕，而是標誌AI算力市場進一步分層：訓練與推理，正在走向硬體分化。
對OpenAI而言，這顆“辣椒”晶片如果規模化部署順利，將直接改善ChatGPT等產品的響應速度，壓低服務成本；對整個行業，則預示未來會有更多大模型巨頭下場做定製推理晶片。
但跑分紙上的領先，終究只是實驗室結果。晶片真正的成色，還要看未來一兩年，在真實網際網路混雜流量、異常請求、版本迭代下大規模叢集的實際運行表現。(觀芯IC)