不久前,長鑫科技過會,外界普遍預計上市後的市值或超兆元,這也有望讓合肥的A股總市值從1.5兆衝到3兆以上,超過廣州、杭州,成為全國第四。
“成功的花,人們只驚羨她現時的明豔”,然而合肥的晶片故事還不止於此。
過去十年,合肥幹了幾件關於晶片製造的大事:除了長鑫科技的儲存晶片外,還有做晶圓代工的晶合整合,目前已經在科創板掛牌。
再往下游看,頎中、匯成、沛頓、通富微電等封測企業也是扎堆合肥,上游還有芯碁微裝、欣奕華、安德科銘,在裝置和材料領域補缺口。
不過,合肥還不滿足。
隨著AI大模型的興起,合肥敏銳地發現:未來晶片產業鏈上還缺一個環節,一個專為端側Ai而設計的晶片。
現在市面上的晶片,包括輝達的GPU在內,本質上都不是為了AI而生的,即便輝達後續加入了Tensor Core、Transformer Engine等專門單元,但底層架構依然是GPU的底子,本質上是“為圖形設計,被AI改造”。
那麼,有沒有一家企業專門為AI開發晶片呢?
近日,端側AI推理晶片企業聆思科技完成近5億元B輪融資。本輪融資由安徽省與合肥市多家國資平台聯合戰略領投,深報一本、盈科投資、天智投資、永鑫方舟、東瑞投資等一線資本跟投,其中多家為老股東持續加注。
在儲存(長鑫)這張牌之後,合肥敏銳地意識到,下一個風口:
就是“端側智能”。
過去兩年,大模型行業最熱鬧的事就是卷參數:
千億、兆,一個比一個大,可到了今年,風向已經變了。
行業共識已經從“模型越大越好”,轉向了“模型落地越快越好”,大模型的下一階段,終究是和實體硬體的融合。
為什麼現在機器人、AI PC、智能座駕、全屋智能等賽道火熱?因為這些硬體,才是大模型從“炫技”走向“幹活”的出口,是消費者最常接觸到的產品。
但要讓大模型走進終端產品,首先要解決一個現實矛盾:現在絕大多數的智能裝置,都是通過雲端來獲取智能,這種“雲寄生”架構帶來了三重瓶頸:
一是離線能力的缺失。
裝置在弱網、斷網場景下,智能能力瞬間坍縮,從“智能終端”退化為“啞終端”。對於智能家居、車載、工業巡檢等需要持續線上感知的場景,這種環境適應性斷裂,是終端體驗升級的最大短板。
2025年5月,中國某知名車企App就出現了一次大規模服務異常,導致遠端啟動失效、電子鑰匙失靈、車窗無法遠端關閉、空調預設失效,數百位車主在早高峰集體陷入數字斷聯。
二是即時性的剛性約束。由於物理限制,目前端到端往返時延仍難以壓縮到毫秒級以內。對於智能座艙內的多輪語音互動、機器人的即時避障與路徑規劃,這種傳輸延遲直接破壞了互動的自然感與連續性,會導致體感斷層。
三是推理成本的規模不經濟,長期高頻呼叫雲端大模型,每一次推理都對應Token計費。一台日均互動上百次的AI PC或智能座艙終端,一年的使用成本很可能超過買硬體的成本,這種“邊際推理成本不可收斂”的經濟模型,從根本上限制了端側智能的規模化普及。
這對規模化落地的智能終端來說,是一筆無底洞,消費者也很難願意持續投入。再加上資料隱私、網路安全等問題,行業愈發清楚地認識到:
大模型要真正走進千家萬戶,需要從雲端走下來,和終端裝置深度結合。
這就是“端側大模型”誕生的邏輯:把大模型的推理能力直接塞進一顆晶片裡,讓裝置在本地就能完成理解、推理和決策。
摩根士丹利Edward Stanley團隊在2024年的研報裡就做出了判斷:
端側AI將在2024年下半年和2025年成為消費電子市場的“中心舞台”,繼手機之後,AI筆記本也將迎來爆發,到2025-2026年AI PC滲透率將從2024年的8%一路飆到30%和50%,僅這一項就給全球半導體公司帶來約300億美元的收入增長。
所以最近1-2年,很多頭部科技公司都在花大精力去研究端側晶片。
蘋果在2024 WWDC就把Apple Intelligence的底座直接釘在端側庫克的原話是:“Apple Intelligence是iPhone史上最大的軟體平台變革之一”,在蘋果設計架構上,AI的主力應該跑在端側(A17 Pro/M4及以上NPU),只有需要更大模型的才走私有雲端運算,端側能跑的,絕不送雲。
2025年,蘋果繼續加碼NPU算力,把“端側跑大模型”做成MacBook和iPhone的賣點。
到了2026年,輝達的黃仁勳也宣佈進軍PC處理器市場,宣佈聯手微軟、Arm、聯發科推出RTX Spark平台,Omdia的分析師當時的點評是:
“輝達入局PC,是端側AI爆發的起點和風向標,AI推理時代就此全面開啟”。
據悉,聆思科技的本輪募資,也是劍指新一代端側大模型AI推理晶片研發,推動聆思首顆端側大模型AI推理晶片Nebula系列的問世(計畫於2026年底正式推出),為端側大模型在機器人、AIPC、智能座艙、全屋智能等終端場景中的規模化部署提供核心算力支撐。
方向對了,還得看具體的投資,合肥為什麼選中了聆思?
原因是這家企業已經在端側AI晶片這個賽道上跑了很久,而且跑出了成績。
先說幾個數字,聆思累計出貨量已經超過億顆等級,在端側NPU晶片行業,能跑到這個量級的公司,一隻手數得過來。
再看技術路線,聆思的選擇和多數晶片公司不太一樣。
中國做端側AI晶片的企業不少,傳統晶片公司走的路線一般是“演算法適配晶片”,先做通用晶片架構,再把AI演算法往上面搬,效率低、功耗高;聆思走的是另一條路:晶片演算法協同設計,從演算法源頭去倒推晶片架構,儘可能提升算力的效率。
聆思目前的神經處理單元(NPU)算力利用率能做到80%,而行業平均水平只有30%-50%。
這就意味著同樣的標稱算力,聆思能在終端裝置上跑出別人5-10倍的演算法效果,這對家電、車載、教育硬體這類在乎成本和功耗的場景,幾乎是決定性優勢。
其實海爾、美的這些白電龍頭都大量採購聆思的晶片產品,特別是在藍牙語音互動領域,聆思市佔率已經是行業第一。家電行業單品價格低、出貨量巨大、對成本和功耗非常挑剔,能在這塊站穩頭部,足見聆思的功力。
視覺則是聆思近幾年跑出來的第二條曲線。
過去,視覺晶片的採購大戶,一般是安防企業,這個賽道目前已經非常成熟,但聆思沒去紅海裡硬擠,他們是把視覺和AI結合,融入到了教育、消費電子、智能家居這幾個新興場景裡,順利趟出了一片藍海。
比如教育硬體掃讀筆,消費電子裡的手持雲台、運動相機,智能家居里的智能門鎖、掃地機,這些場景過去要麼用通用晶片湊合、要麼依賴雲端,當聆思把本地視覺AI能力塞進去之後,離線人臉識別、手勢控制、人體追蹤這些功能已經可以在低功耗裝置上跑起來,且應用方案已經被多家頭部品牌採用,出貨量穩居前列。
簡單來說,在“讓裝置聽懂人話、看清世界”這兩件事上,聆思已經是行業裡最能打的公司之一。
本輪融資,聆思想做的端側大模型AI推理晶片,是在語音和視覺能力基礎上的又一次升級,讓終端裝置不僅能“聽懂、看清”,還能“理解、推理”。
但這條路沒那麼好走。
行業裡都知道,端側跑大模型有三堵牆:記憶體牆、功耗牆、成本牆。
雲端GPU晶片功耗動輒幾百瓦,散熱靠液冷,成本上萬,直接搬到終端裝置上根本不現實。可市面上現有的端側AI晶片,大多還是為傳統機器學習模型設計的,跑CNN、RNN還行,一上Transformer類的生成式大模型,適配就變得非常困難、能效比也很慘淡。究其原因,就是因為目前市面上沒有一顆晶片是真正為大模型去開發的。
聆思想從這個根上解決問題,做了三件最核心的事。
第一件是用3D-DRAM堆疊技術,突破了傳統HBM技術在端側部署中的限制,讓記憶體頻寬能做到現有方案的數倍甚至十倍以上,實現大容量記憶體的存算一體,推理性能和能效比因此能實現跨越式提升。
值得一提的是,這顆晶片將基於長鑫3D DRAM工藝進行晶圓鍵合生產,這是兩家合肥本土企業在儲存和推理兩個環節的第一次深度握手。
第二件是深耕晶片演算法的軟硬協同,過去十年的端側AI晶片,主要是為CNN(摺積神經網路)時代設計的。那時候的任務僅僅是圖像分類、目標檢測、語音喚醒,模型小、計算密集、NPU只要把乘加單元堆夠、把摺積算子硬化,就能跑得不錯。
但大模型換了一套玩法,Transformer架構的計算每層都要搬權重,序列長、算子形態多變,老NPU跑CNN是“小馬拉小車”,跑Transformer就成了小馬拉大車,而聆思研發的Nebula晶片搭載了面向大模型推理設計的AI原生NPU,從大模型的演算法特性出發反向定義計算架構,讓NPU更懂Transformer類計算,同樣的算力標稱值,Nebula能跑出更高的有效吞吐和更低的延遲。
基於這兩項核心創新,Nebula系列晶片預計可實現10倍計算加速性能提升、10倍模型參數規模支援,推理速度超過100 tokens/s,在性能、能效比和體積等維度上達到全球領先水平。
第三件事,是把晶片做成“套餐”,讓客戶拿回去就能用。
晶片不只是硬體,還要配套成熟的工具鏈、SDK和參考設計,出貨量高達1.5億片的聆思很清楚,客戶需要的是一個開箱即用的產品,所以它們會在出貨之前就幫客戶做好移植和適配工具。
在市場端,聆思科技目前已聯合聯想、聆動機器人、海爾、美的、面壁等企業,在AI PC、機器人、智慧家庭、智能座艙四大方向啟動聯合預研,推動端側大模型AI推理晶片在真實終端場景中的產業化落地。
晶片公司上市,一級市場看三件事:
賽道、位置、故事。
首先,賽道要在對的時間口上。今天的端側大模型晶片不是“要不要做”,是“必須做”。
因為機器人、AI PC、智能座駕、全屋智能這些賽道的產品需要算好三筆帳。
第一筆帳,叫“離線可用性”。車進隧道、智能家居斷Wi-Fi切4G、機器人進電梯、戶外割草機跑到小區邊緣……這些場景裡,線上很難做到,離線能幹活才是常態。
第二筆帳,叫“隱私與合規”。家庭對話、車內談話、兒童陪伴資料、老人看護影像,這些過去被送到雲端處理的敏感資料,現在越來越多地被監管和使用者雙重審視。特別是《資料安全法》《個人資訊保護法》落地後,車企、家電廠、教育硬體廠商都要主動把“資料本地處理”寫進產品定義,所以現在“資料不出裝置”正在從一個加分項,變成招投標和出海認證裡的硬門檻。
第三筆帳,叫“成本收斂性”。雲端大模型按Token計費,互動頻次只會漲不會跌,對整機廠來說,這就是個“越智能越虧損”的經濟模型,而端側晶片的邏輯是反過來的:一次性成本攤下去,後面推理次數越多越划算,這才是規模化部署能跑通的經濟模型。
所以說聆思的產品非常契合未來智能硬體的發展趨勢,按照一些機構的預測,未來三五年是百億級出貨量的邏輯。
其次,位置要卡得刁。中國能做端側AI晶片的不止聆思,但聆思的累計出貨已經跑到億顆級,覆蓋家電、語音、教育硬體這些“苦活累活”的賽道,能在這些賽道里活下來、持續出貨,本身就是最好的資質證明。
況且聆思的晶片打法是從底層重新設計,記憶體頻寬拉到現有方案的數倍甚至十倍以上,真正讓端側大模型能跑得動、跑得久、跑得不燙。
還有一點被很多人低估了,合肥國資投聆思,不只是給錢,更是給了場景。
合肥有什麼?有全國家電產業最集中的叢集,美的、海爾在合肥都有大規模生產基地;還有新能源汽車的頭部玩家、顯示面板的龍頭企業,這些下游場景,就是聆思晶片最直接的“出貨口”。
目前,國產晶片面臨嚴重的“卡脖子”問題,企業用輝達,貴、供貨不穩,用高通,高通又不願意給國產整機廠去做深度定製。
國資進來,意味著聆思不僅有了長周期的資金支援,可以按產業節奏慢慢打磨產品,還可以牽線搭橋,讓聆思的晶片更容易進入合肥系終端廠商的供應鏈,這就能讓它的估值比“純消費電子晶片公司”高1-2倍。
最後,是想像空間要足夠大。
長鑫講的故事是“中國儲存從0到1”,聆思是這個故事的另一個補充,地基有了,接下來就是讓AI進家電、進車、進機器人,這是一條更長、更肥、更能出貨的鏈條。
回頭看合肥這十年投的晶片項目,邏輯一直很清晰:
長鑫,把“儲存”立住;晶合整合,把“晶圓代工”立住,現在輪到“端側智能”,讓AI從雲端走下來,走進最廣大消費者的智能家居、車、終端裝置裡,讓中國做的晶片,被全世界採購,而且還能賺到錢。
這三步,一步比一步更接近“出貨和現金流”,也一步比一步更靠近最終消費者。
合肥半導體類股的“頭雁”已經飛起來了,現在需要的是“接力雁”,一個能把長鑫的儲存、晶合的代工、下游的家電、汽車、智能終端串成一條真正可出貨、可變現的鏈條環節。
長鑫打地基,聆思蓋房子,接力有序,合肥的晶片故事才更完整。 (正解局)
