【WAIC 2026】端側AI成WAIC大熱門!後摩要用這顆芯把千億大模型塞進口袋

7 月 17 日,第九屆世界人工智慧大會(WAIC)在上海世博中心正式開幕,作為一年一度的 AI 行業盛會,今年大會依然聚集了國內外大模型公司、AI 應用和硬體廠商,雷科技(ID:leitech)旗下AI新媒體「雷科技AGI(leikejiagi)」也派出報導團,赴上海進行現場報導。

作為以 AI 為主題的展會,WAIC 隨處可見Agent 和具身智能,但有這麼一個展台,它沒有展出各種人形機器人,也沒有 AI 相關的概念產品,只有幾台看起來像路由器、像迷你主機的東西。而就是這家叫做後摩智能的廠商,居然將聯想、長城、中國移動這些巨頭的印在了同一個背景板上。

(圖片來源:後摩智能官方)

簡單來說,當所有人都在想著怎麼拿出思考能力更強的 Agent 時,後摩做的則是背後的那顆晶片。

但很多人沒有注意到的是,我們天天說大模型越來越聰明,參數從 7B 漲到 70B,再到 700B,但你手機上跑的 AI,跟你公司資料中心裡跑的那個,根本不是一個物種。雲端大模型確實強,但每次呼叫都要把資料傳到千里之外的伺服器上繞一圈,而這個流程存在諸如延遲、功耗、Token 費用、隱私風險等一系列問題。

這也是為什麼,今年行業把 2026 年稱為「端側 AI 元年」,市面上湧現出越來越多的 AI PC、AI 手機、智慧型手機器人、AI 終端等產品,但這些裝置都有一個共同的缺點:怎麼在巴掌大的空間裡塞進跑大模型的算力,還不發燙、不耗光電?

(圖片來源:雷科技現場攝製)

而這就是後摩智能一直在做的事情。它們發佈的 M50 晶片的核心參數看起來其實不算亮眼:10W 功耗、160 TOPS 算力、能跑 30B 到 120B 參數的大模型。可能有讀者發現了,它的功耗做到了 10W,遠比市面上同等算力的產品低不少。

這源於後摩 M50 晶片的全新架構,在傳統晶片裡,計算單元和記憶體單元是分開的,算一次資料就要來回搬運一次,這個「搬運」本身消耗的能量有時候比真正計算用的還多——業內叫它「記憶體牆」。後摩的做法叫「存算一體」:把記憶體和計算做在同一塊矽片上,資料不用「來回跑」,功耗自然就降低了。

(圖片來源:雷科技現場攝製)

而搭載這款晶片的產品也很有意思,我們以聯想 AI 主機 P7 為例,它只有手掌大小、重 300 克,整機功耗只有30W,意味著一個普通行動電源就能供電。但它能離線跑 1220 億參數的大模型,推理速度 50 Tokens/s,翻譯成人話就是:那怕斷網了,它照樣能跟你正常聊天、寫文件、分析表格,表現跟聯網狀態下沒什麼區別。最重要的隱私問題也順帶給你解決了,因為所有資料都在這個「盒子」裡運作,不存在聯網洩露的情況。

(圖片來源:雷科技現場攝製)

長城 N90 Pro 也是一台很有代表性的產品:全端國產 AI 筆記本,飛騰 CPU 加麒麟系統加 M50 晶片加國產大模型,在斷網環境下能跑 35B 大模型,推理速度達到 30 Tokens/s,政務、金融、能源這些行業一看就懂它的價值。還有聊趣智能的 ClawHouse X1 Pro,全息互動個人智算中心,能同時跑 3D 渲染、百億級大模型推理、低延遲語音互動,等於把智能辦公和智慧教育打包成了一個「個人 AI 伺服器」。聯想 AI Workmate 概念機則走桌面機器人路線,掃描文件就能自動生成 PPT,投影成共享看板,全程斷網可用。

(圖片來源:雷科技現場攝製)

從這些展台上的產品我們不難看出後摩的路線跟行業巨頭輝達完全不一樣。輝達做的是通用算力平台,追求統一和全場景覆蓋;而後摩做的是一顆專門為端側推理最佳化的晶片,讓終端廠商「即插即用」。對終端廠商來說,既不用從頭研究晶片,也不用忍受雲端 API 的時延和成本,只需插一塊卡就完成 AI 化升級。在這種模式的協作下,端側 AI 的普及速度會比我們想像得快得多。

那麼端側 AI 到底為什麼重要?很多人覺得好處就是斷網也能用,這沒錯,但只看到了最淺的一層,真正的價值其實有三層。

第一層是成本。雲端大模型的 Token 費用不便宜,普通使用者一個月都得花費一兩百元,重度使用者更是輕輕鬆鬆四五百元。而在本地推理的狀態下,你不需要為晶片和電費付錢,成本自然大幅降低;第二層是隱私,你的聊天記錄、工作檔案、個人資料不用上傳到任何伺服器,全程在你手邊的裝置上處理,這不需要你相信任何公司的「隱私承諾」,因為資料從物理上就沒離開過你的裝置;第三層是體驗,雲端 AI 延遲幾十毫秒到幾百毫秒是免不了的,網路波動更是家常便飯,端側推理可以做到毫秒級,互動絲滑得多,而且你的 AI 不用跟幾百萬使用者搶算力,換句話說它就是你一個人的專屬助理,隨叫隨到。

M50 是目前國內端側 AI 晶片裡,從技術到量產到生態閉環做得最完整的一家。尤其是10W 功耗實現 160 TOPS 的能力不是簡單堆電晶體就能做到的,存算一體架構的選擇讓它天生適合端側場景。更難得的是,後摩沒有只賣晶片,而是把 M.2 卡、加速卡、軟體工具鏈一起推了出來,客戶不用自己調參量化,裝上就能用。這個「開箱即用」的能力,進一步降低了規模商業化的門檻。

(圖片來源:雷科技現場攝製)

不過端側 AI 市場處於剛剛起步的階段,2026 年雖然是「元年」,但能跑多遠還要看兩點:一是聯想、長城這些終端巨頭的產品能不能真正打動市場,畢竟東西再好,賣不出去就是白搭;二是雲端 AI 的成本在持續下降,端側的優勢能不能長期維持,需要持續迭代。

其次後摩的對手越來越多,除了前文提到的行業巨頭輝達,高通、聯發科也在佈局端側 AI,華為昇騰體系更是全端自研。我們不妨期待後摩在之後還能給市場帶來什麼新產品。

總的來說,後摩智能在 WAIC 2026 上交出的答卷,不是一顆晶片,而是一個完整的「端側 AI 生態雛形」。後摩拿到入場券了嗎?從這次 WAIC 的情況來看,小雷覺得,它已經坐在牌桌上了。 (雷科技)