可以說,大模型公司為什麼“造芯”、造那一種芯、怎麼造芯,且會帶來什麼樣的影響,是這一波“芯浪潮”之下最普遍的疑問。而中國頂級大模型公司深度求索,拋出了意料之外、情理之中的答案。
Deepseek進軍硬體了。
7月7日,據外媒報導,中國人工智慧初創公司深度求索正在開發AI推理晶片。消息傳出,當天輝達股價盤前下跌約2%。
媒體援引知情人士消息,該項目“始於一年前”,目前仍處於早期階段。深度求索近幾個月加大了晶片設計工程師的招聘力度,但招聘均在私下進行,未在公開平台發佈職位。
在三個星期前的6月16日,深度求索剛剛完成首輪外部融資,募資總額超500億元,估值超3300億元。6月17日,中國證監會宣佈“科創板擴容”,允許未盈利的人工智慧大模型企業上市。
深度求索完成首輪外部融資
全球範圍內,AI大模型企業自研晶片蔚然成風。Meta第四代自研晶片Iris將於9月量產;OpenAI於6月發佈首款自研推理晶片Jalapeño;Anthropic於4月公開表示“考慮自研晶片”。
為什麼造芯?
深度求索造芯,堪稱“大勢所趨”。這是深度求索在外部地緣政治影響、內部供應鏈壓力,以及自身技術優勢共同驅動下的必然選擇。
2023年,梁文鋒在杭州接受採訪時說過:“我們真正的挑戰從來不是資金,而是高端晶片的出口禁令。”
自2022年起,受美國嚴苛的半導體出口管制政策影響,輝達最先進的AI晶片不能通過合法管道引入中國。深度求索早期的模型靠的是囤積的輝達A100,V3和R1模型依賴“中國特供版”輝達H800晶片訓練,但這些晶片先後遭全面禁售。
今年6月,美國商務部急發最新“指南”,規定即使中國企業實體身處中國境外——比如在海外設立的研發中心,也將被禁止購買、使用輝達最先進的Blackwell及Rubin架構的晶片,完成空間上的“全球封堵”。
實際上,從後續的V4和V4-Flash大模型開始,深度求索已經全面適配華為晶片昇騰950PR,其單卡推理性能達到輝達中國特供版H20的2.87倍。
針對昇騰950PR的架構特徵,深度求索定製開發了演算法和架構,持續將Token推理價格打到“白菜價”。據OpenRouter資料顯示,美國企業呼叫中國AI的Token佔比,自今年2月起突破30%,峰值達46%,比起2025年上半年4%的水平,漲幅相當明顯。
昇騰950好是好,但實在供不應求。畢竟它面向的是整個中國人工智慧產業的算力需求,客戶包括網際網路巨頭字節跳動、阿里巴巴、騰訊、百度、美團;包括政企巨頭中國移動、中國電信、中國聯通、國家電網、南方電網;也包括上海、深圳、成都等地方政府智算中心,還包括了各類做算力租賃的中小雲廠商。
在代工廠中芯國際的先進製程“盤子”裡,華為一家就佔去了近一半的產能分配。就算如此,除去分給華為手機麒麟晶片的產能,留給昇騰晶片的晶圓也所剩無幾。其他中國AI晶片企業如寒武紀等,還要爭奪剩下的份額。
這樣一算,與其去爭搶緊張之又緊張的先進製程代工份額,中國大模型公司還不如自己打造推理專用的ASIC晶片。這類晶片不需要通用GPU那麼極致的技術,14nm平台就能做——這部分產能,中芯國際是很充裕的。
而且,深度求索做硬體,底氣很足。它就是靠“打磨”晶片起家的,擁有頂尖的軟硬體協同設計能力。
如果用上了自研的專用推理ASIC晶片,深度求索還可以再大幅降低Token呼叫成本,建構出更大的性價比優勢。同時,近期的巨額融資,也為深度求索提供了充足的“子彈”。
全球頂尖AI大模型梯隊,都在自研推理專用晶片。OpenAI與博通合作研發Jalapeño,Anthropic也被曝出正在接觸三星,Meta的第四代自研晶片Iris將於9月量產,特斯拉的AI5晶片已面世。而網際網路巨頭Google、亞馬遜均已深耕多年,有能力自研訓練晶片。
無論天時地利人和,深度求索都走到“造芯”這一步了。
只做“定製芯”
近日也傳出“造芯”消息的智譜,據悉已經向多家中國本土晶片設計公司如寒武紀、壁仞發出初步詢問,評估為自家GLM模型定製專屬ASIC的可行性。該項目處於早期方案接洽階段,預計兩年以上時間才能流片落地。
大模型公司集體下場“造芯”,無一例外,做的都是ASIC,也叫專用積體電路。
為什麼做ASIC,不用輝達的GPU呢?中國大模型企業買不到輝達,美國大模型公司總不至於買不到。而這些公司“一齊”選擇ASIC,主要由需求決定。
輝達GPU是通用處理器,為了相容圖形渲染、科學計算和多種複雜演算法,保留了大量閒置的硬體邏輯。而大模型公司的訴求集中且純粹——只需要晶片能跑特定參數規模的大語言模型。
而且,這些模型公司“自研”的晶片,只瞄準推理場景,而不是訓練場景。訓練晶片,需要非常高的算力密度,以及生態相容度,比如輝達的CUDA,門檻很高;而推理階段的計算模式相對固定,用ASIC針對性最佳化,可以“榨乾每一吋晶圓”的性能。
今年拜OpenClaw這只“龍蝦”所賜,大量AI應用爆發,每天的線上呼叫都會產生海量的推理成本。對於大模型公司來說,在固定的推理任務上,一個架構完全定製化的ASIC,其Token的計算成本、功耗和延遲,都會顯著優於通用的GPU晶片。
另外,自研晶片的“自研”也“有說法”。一般而言,“自研”包括全端自研和部分自研,大模型公司肯定不會“從頭做起”,它們都是和其他晶片企業合作,自己負責擅長的“調校”部分。
像OpenAI發佈的首款自研推理ASIC晶片,名叫Jalapeño,是一種產於墨西哥的著名辣椒。
這款晶片也如辣椒一樣強勁火爆:Jalapeño採用了與蘋果M3、M4系列以及輝達Rubin架構同等級的台積電3nm製程;計算核心採用“曝光掩膜板極限尺寸”,和輝達H100一樣龐大;它還堆疊了8塊的HBM,一口氣能吞下幾兆參數的模型權重。
Jalapeño具備了頂級訓練晶片的材料和體量,但專攻推理,從啟動到流片僅耗時9個月,可見OpenAI砸下血本、快馬加鞭,也是為了把GPT的運行成本死死壓下去。
在分工上,OpenAI負責定義核心的計算圖,指出晶片應該保留那些數學計算邏輯,砍掉那些無用的通用圖形渲染邏輯;研發推理服務系統,確保晶片適配未來幾年內自己的模型技術路線圖。
博通本來就是全球ASIC定製化設計的“無冕之王”,Google的TPU就出自它手,它主要負責晶片的前端後端設計、高速互聯技術,還出面搞定了台積電3nm的“寶貴產能”。
中國大模型公司的“造芯”思路也差不多。
把握“戰略生路”
中美的大模型巨頭都從“算力買家”化身“造芯玩家”,會給全球AI產業帶來一些深遠影響。
首先,“硬體混搭”將成為趨勢。
這幾年,輝達憑藉硬體的算力,和獨一無二的CUDA軟體生態,除了中國市場,在AI領域壟斷了超90%的市場份額。
各家大模型公司自研晶片,會最先打破輝達的“寡頭”局面:訓練晶片歸輝達,推理晶片自己做;同時,採用Triton、OpenXLA等開源或自研編譯器生態,不再被CUDA“鎖死”。
輝達CEO黃仁勳多次對大模型巨頭、雲廠商自研ASIC表達強硬的觀點,他認為ASIC缺乏靈活性,硬體過於固化、無法應對推陳出新的大模型架構;工程難度高,“90%的ASIC項目以失敗告終”;即使對手晶片“零成本”,輝達的總擁有成本(TCO)也依然更低。
不過,黃仁勳到底老謀深算,雖然口頭上強硬反對,但商業動作極其務實。輝達推出NVLink Fusion技術平台,開放其看家本領“高速互聯”技術。
這意味著,如果科技巨頭非要自己造晶片,輝達也不強求你買它的GPU,但是你可以把自研的ASIC接入到輝達的NVLink網路中——不買晶片,互聯“過路費”總要交一交。
其次,AI推理成本再降,應用大爆發來臨。
有研究顯示,用定製ASIC替代GPU,單位Token的計算成本和功耗將降低50%或更多。推理成本的暴跌,會促進更多的AI“助理”低成本地嵌入各類日常生活軟體和硬體中去。AI應用會進一步爆發,從高能耗的“奢侈品”變成普惠性的“基礎設施”。
再次,行業生態迎來洗牌,有人歡喜有人憂。
博通、邁威爾以及中國本土的定製晶片設計公司,都會成為大模型企業的座上賓,歷史性的“造富”機遇來臨。大模型企業提供演算法和需求,設計服務商提供矽片實現,“演算法加矽片”的聯合開發模式,取代傳統的硬體廠商造什麼、軟體廠商就買什麼的局面。
而過去幾年湧現的AI晶片初創公司,命運就難說了。它們本來瞄準的客戶就是網際網路巨頭、大模型獨角獸,現在客戶都自己做晶片,它們的市場空間就被嚴重壓縮了。
另外,技術路線持續分化,中美兩國“各幹各的”。
美國巨頭霸佔著最好的供應鏈,製造ASIC,依然追求極致性能和先進製程,以求利用絕對的技術代差維持“地表最強”統治地位。3nm工藝、HBM4視訊記憶體一股腦用起來,彷彿這些東西“不要錢”一樣,
中國企業沒法單純堆砌頂級硬體,因此繼續採用“極致軟硬協同”策略,用軟體和演算法的優勢彌補硬體的缺陷。這也正是深度求索大展拳腳的機會,通過一系列創新性的架構和底層演算法最佳化,壓榨出極高的推理效率,走獨特的自主可控路線。
總之,大模型公司“造芯”,本質是AI產業走向成熟的標誌——最初各家都在開展不計成本的算力軍備競賽,現在都要拼效率、拼成本、拼商業落地、拼“工業化大生產”,證明行業從投資階段逐漸轉向“產出”階段了。
當然,黃仁勳對ASIC的“反對”並不是毫無道理。但無論如何,ASIC之於中國大模型企業的意義,不僅僅是“省錢”,更是突破海外算力圍剿、繞過輝達生態壁壘、形成商業閉環的戰略“生路”,需要自己把握住。 (南風窗)
