大模型繞不開造芯路?

OpenAI已經證明了自研晶片的性價比。其晶片在推理任務上的性能可與輝達Blackwell晶片和GoogleTPU相媲美,成本能降低約50%。

7月7日,大模型公司DeepSeek及智譜同日被曝自研推理晶片的消息。消息稱,DeepSeek正與晶片設計公司、晶圓代工廠和儲存企業展開接洽。智譜已向部分國內晶片設計公司進行初步詢問,探討聯合開發專用AI處理器。

針對自研晶片一事,記者向智譜方面求證,截至發稿沒有收到回應。DeepSeek也沒有做出公開回應。

兩家公司被曝出的自研晶片都是推理晶片,而不是訓練晶片。訓練晶片主要用於AI模型訓練,擁有更多的計算核心、高速的記憶體介面以及大量的儲存空間;推理晶片用於AI模型的部署和應用,具有低延遲、高效能耗比以及小型化設計的特點。

一位頭部國產晶片公司高級工程師告訴經濟觀察報,大模型公司側重推理晶片,主要有兩個原因:

一是在當前階段,國產公司自研推理晶片會相對容易一些。因為訓練晶片對精度及算力要求比較高,一旦訓練時精度崩盤,意味著很長一段時間的錢就白“燒”了。而推理晶片是在已有模型權重基礎上進行的,即使晶片能力不足,損失也比較小,可以慢慢調整。

另一個原因是,推理晶片在當下更有實用性。今年Agent(智能體)爆發後,大模型推理需求增長非常快,國產晶片供不應求。如果能成功自研推理晶片,可以彌補一些缺口。

該高級工程師稱,目前國產大模型廠商都處於算力緊張狀態。

在社交平台上,智譜的使用者經常反映新模型報錯問題,以及購買個人套餐需要排隊,很難搶到。“DeepSeek崩了”經常成為熱搜話題。有使用者統計,今年以來,DeepSeek“崩”了18次以上。騰訊高管多次在財報電話會提到,騰訊希望能買到更多的卡。火山引擎一位人士告訴記者,Seedance模型的API服務目前處於供不應求階段。

北京市人工智慧高級工程師張發恩認為,大模型公司做自研晶片,短期內不可能供得上需求,過渡期還需要繼續買卡混合使用。造芯是大模型公司必須做的一件事,因為大模型公司可以用自己最聰明的AI去打磨最適配它的底層硬體,把性能壓榨到極致。一旦該模式驗證成功,未來的利潤率和生態主動權就有保障了。

OpenAI已經證明了自研晶片的性價比。6月24日,OpenAI聯合博通發佈了首款定製推理晶片。博通CEO陳福陽稱,這顆晶片在推理任務上的性能可與輝達Blackwell晶片和GoogleTPU相媲美,成本能降低約50%。

不過,上述頭部國產晶片公司高級工程師認為,國內大模型公司自研晶片,能否持續以及能否成功,有不確定性。自研晶片是一項高投入、長周期的業務,國內大模型公司的收入水平,目前不能與OpenAI相媲美。

國內有成熟產品的晶片廠商,無論是網際網路廠商還是獨立晶片公司,都已佈局多年。百度崑崙芯2011年成立,至今有15年;阿里巴巴平頭哥的佈局始於2018年,至今約8年;獨立晶片公司寒武紀、燧原科技、天數智芯、壁仞科技等也持續投入7年以上,才能實現規模化部署。

晶片研發也有半路折戟的案例。OPPO 旗下晶片公司哲庫(ZEKU)在2023年關停,3000多人團隊解散。京東曾在去年高薪招募晶片人才,不到半年時間,2026年4月,京東晶片團隊曝出公司主體切換的消息。 (經濟觀察報)