“只有一次機會。”
前兩天，在XHEART新芯航途大模型晶片X7 Ultra的發佈會上，CEO李宗霖用這句話形容2023年重新創業時的處境。
彼時，資本市場低迷，團隊資源有限。幾位已經做了十幾二十年晶片的工程師重新出發，需要先回答一個問題：幾年後產品做出來，市場需要的會是一顆怎樣的晶片？
李宗霖面前有兩條路。
一條是做通用架構，儘可能適配不同模型。在他的權衡中，這條路相對穩妥，但要把特定應用的性能做到更高水平，也會受到限制。
另一條路，是提前判斷模型的發展方向，從模型需求出發，重新組織晶片裡的計算和資料流動。
選擇後者，意味著團隊要用今天定下的架構，去承接幾年後的模型需求。一旦方向判斷失準，後續調整的代價就會很高。
那段時間，李宗霖與Momenta CEO曹旭東反覆交流，聊技術、聊市場，也聊未來幾年智能駕駛會往那走。
兩者都認為，海量資料會持續推動模型進步，今天夠用的計算平台，可能很快就要面對更大的模型；而晶片的設計、製造和驗證周期漫長，團隊必須提前看幾步。
他們因此決定，從大模型的需求出發定義晶片，把對未來模型的判斷提前做進硬體架構。
三年後，當被問起這樣的選擇是否正確時，曹旭東的回答很簡短：“毫無疑問。”
1
先理解模型，再設計晶片
過去的智駕系統有著清晰的分工：感知、預測、規劃，分別由不同模型完成。模型之間傳遞資訊，再由系統把這些結果組織起來。
隨著端到端大模型的發展，原先分散的任務被納入更集中的網路，模型內部的資料互動也更加密集。理解道路、判斷其他交通參與者的意圖、規劃下一步行動，都對計算平台提出了新的要求。
對晶片團隊而言，這種變化首先落在一些具體問題上：計算單元之間要交換多少資料？關鍵計算會在那裡等待？更高的推理精度，需要怎樣的硬體支援？
曹旭東把未來的需求推到了更大的規模。在他的判斷中，要實現規模化L4，至少需要10B、即100億參數的模型，大機率還需要達到100B、即1000億參數。承載這樣的模型，計算、記憶體和資料傳輸都需要相應的硬體資源。
問題是，汽車能提供的空間、電力和散熱條件都有邊界。
曹旭東打了一個比方：如果用通用晶片承載這樣的大模型，相當於在車上放一台巨大的GPU伺服器，功耗、車規可靠性和成本都會成為問題；反過來，如果先滿足汽車對這三項的要求，又很難支撐如此大的模型。他將其稱為“通用晶片的不可能三角”。
“大模型定義晶片”正是突破這些約束的路徑。
李宗霖介紹，早在2023年，晶片團隊就與演算法團隊圍繞持續演進的基座模型討論架構和算子需求。
演算法團隊瞭解模型實際執行階段，那些運算最多、那些環節最耗時；晶片團隊據此判斷，那些計算值得專門加速，資料應該怎樣記憶體和傳遞。這些討論越早開始，模型需求就越能影響硬體設計，而不是等晶片流片後再被動適配。
這種前置協同帶來的不是小幅最佳化。相比通用晶片，大模型定義晶片能夠帶來10倍的性能提升。
2
一次狹路會車，需要多少計算
發佈會上，曹旭東介紹了基於X7 Ultra的R7 Ultra世界模型，並展示了一段媒體試駕視訊。
測試車駛入一條狹窄的公共道路。路邊有不鏽鋼欄杆，對向車輛駛來，車後空間也很有限。
而車輛能夠根據來車和可用空間，選擇倒車避讓、等待或重新前進，動作銜接自然，完全像是一個老司機。
這樣的表現，需要模型持續理解周圍車輛、障礙物和可用空間，也需要計算平台及時完成推理。
X7 Ultra改採用的超大核NPU架構將傳統小核之間百GB/s級的資料互動，聚合至超大核內部TB/s級的高速互聯，實現頻寬數量級提升。
李宗霖用了一個容易理解的比喻：過去，緊密協作的人分散在不同辦公室，資料需要來回傳遞；超大核則像把他們放進一個寬敞的工作空間，讓更多交流在內部完成。
晶片裡也存在類似的問題。計算單元即使有很強的運算能力，如果一直等著資料從記憶體送來，也發揮不出來。超大核和多級快取，能夠讓更多資料在晶片內部高效互動。
針對LayerNorm、Softmax、Transpose等Transformer關鍵算子，X7 Ultra配置了專用算子加速引擎，提高執行效率。與此同時，團隊安排好計算與權重載入的關係，讓下一批資料在當前任務執行時就提前準備。
AI工具鏈的整網融合，則進一步處理資料來回搬運的問題。常規推理中，一個計算步驟結束後，中間結果可能需要寫回外部記憶體，下一步再讀進來。
XHEART把最佳化範圍擴展到整張網路，統一編排不同層、不同分支的計算任務，儘可能讓中間結果留在晶片內部，減少“寫回記憶體、再讀進來”的反覆搬運。
這些設計最終體現為發佈會上公佈的性能資料。X7 Ultra具備700 TOPS大模型算力。這項評價採用真實量產智駕模型，並要求量化部署後的模型輸出與FP32浮點模型輸出相似度達到99.99%以上，也就是在儘量保持模型原有輸出的前提下，考察晶片能夠發揮多少性能。
按公司披露，X7 Ultra在量產智駕大模型實測中的NPU計算利用率達到98.7%；按其與行業旗艦產品的比較口徑，記憶體頻寬消耗下降80%，能效提升100%。
3
從17天上車，到20萬顆出貨
性能之外，新芯航途還需要確保X7 Ultra能不能在道路上安全、穩定地工作。
“硬體安全好比身體，行駛安全好比大腦。”李宗霖認為，智駕安全還取決於模型能否應對實際道路上遇到的情況，因此，需要把晶片和演算法組成的完整系統放到車裡檢驗。
第一顆X7回片後，團隊不到24小時就成功點亮晶片，首台測試車也在短短幾天內上路。但在李宗霖看來，“快速的成功點亮是一個好的開始，但這只是第一步”。
團隊經過討論，決定用更接近量產的標準重新定義“回片上車”。系統要在真實道路上穩定運行，連路口轉彎時的規劃軌跡，也要向量產表現看齊。“我們要交付的是一顆真的能在真實車輛上穩定可靠工作的晶片。”他說。
按這一標準，從回片到實現整車閉環，團隊用了17天。一般來說，這個過程需要一個月或者一個半月。
這17天背後，是流片前就已經展開的準備工作。軟體適配、演算法功能驗證和域控介面檢查，隨著晶片開發同步推進。車企也提前提供標準，讓整車要求直接進入設計過程，減少回片後再逐項對接、修改的等待。
曹旭東將系統適配的目標概括為“跑通、跑穩、跑對、跑好”，並把X7的進展歸因於流片前就開始的協同設計與驗證。
這種同步工程讓各方可以更早發現問題、平行處理。回片後的高低溫可靠性、系統運行和實車檢驗，仍要按要求完成。
車企也在持續參與檢驗。上汽集團副總裁、總工程師祖似傑說，自己每周都會測試Momenta的大模型，從客戶體驗出發提出意見。
“把我的車交給客戶之前，我先要去體驗，我們要先把坑填掉。”他說。
一些問題還需要工程師跟到客戶現場解決。李宗霖記得，一位同事準備出差，HR問他什麼時候回來，對方回答：“我也不知道什麼時候可以回來。”
於是，他先買了一張單程機票。
把一款車型做好之後，新芯航途還要幫助更多客戶縮短開發過程。公司圍繞晶片提供AI工具鏈和參考設計，並儘可能按主機廠的量產標準開展驗證。
“我們希望交到客戶手中的是經過充分驗證、能夠支撐量產開發的成熟方案。”李宗霖說，“客戶用得更省心，開發落地的效率才會更高。”
這些產品與支援同樣直接面向車企。Momenta是新芯航途的重要戰略合作夥伴，但車企採用新芯航途晶片，無須以採用Momenta方案為前提。不同客戶的模型需求和車型標準，都可以進入項目開發過程。
截至本次發佈會，按公司披露，X7系列已量產8個月，累計出貨超過20萬顆，搭載10款量產車型，獲得超過40款車型訂單。
“這20萬顆晶片的背後是客戶一次次的選擇，也是產業夥伴與我們的並肩協作。”李宗霖說。
4
車開很多年，晶片如何跟上
晶片交付之後，還有一道時間更長的考題。
一輛車可能開五年、十年，幾年之後如果主流的模型架構變了，那麼這些定製的晶片應該如何去應對這些變化呢？
使用者期待通過OTA改善智駕體驗，車裡的計算平台卻很難隨每次軟體升級一起更換。新模型要部署到已經交付的車輛上，需要原有晶片繼續提供支援。
對此，李宗霖認為，架構不能“針對一個固定的模型去把它焊死”。按照他的介紹，X7 Ultra支援Transformer範式下持續演進的模型部署與最佳化，讓後續模型能夠在同一平台上繼續適配、調優，提高硬體利用率。
這回答了現有平台怎樣承接後續升級。但晶片設計時，團隊又如何知道幾年後的模型需要什麼？
“坦率來說，沒有一個固定的公式可以做到。”曹旭東承認。
他提到，預判的一部分依據，來自與客戶共同討論未來三至五年的戰略和產品規劃。車企準備增加那些功能，模型需要發展出什麼能力，都要更早進入晶片團隊的視野。這樣，下一次升級所需的計算資源，才能在硬體設計時有所準備。
同一代晶片能支援的模型規模也有邊界。更大的模型，需要下一代平台接續。因此，新芯航途一邊支援已有產品的部署與最佳化，一邊推進後續晶片開發。
李宗霖把公司的研發節奏概括為：“量產一代、開發一代、預研一代。”此次發佈會上，公司披露的下一代晶片研發目標包括3000 TOPS大模型算力、700 GB/s單晶片記憶體頻寬，計畫於2027年推出。
“既要有更強的計算能力，也要讓資料跟得上計算。”李宗霖這樣解釋下一代產品的準備方向。
在曹旭東的判斷中，2028年有望迎來L4發展的引爆點。對新芯航途而言，眼前要做的，是支援已交付平台上的模型升級，同時完成下一代產品的開發與驗證。
從2023年判斷第一顆晶片該怎樣設計，到今天面對已售車輛的OTA和新車型的開發，團隊仍在提前為模型的變化做準備。
正如李宗霖在發佈會結束前所說：“讓晶片承載大模型的下一次進化。”(汽車商業評論)