實測小米 AI 手機:性能超 iPhone,端側 AI 超級快

AI速讀
小米發布玄戒系列三款自研晶片,並展示兩款端側 AI 原型機。其中折疊屏裝置憑藉 O100 晶片在離線狀態下實現 300 tokens/s 的極速響應;而 AI Cube 桌面終端則能本地運行 120B 參數大模型,完成複雜的程式碼編寫。此次展示明確了小米端側 AI 的佈局:隨身裝置負責高頻輕量互動,桌面端承接深度複雜推理,旨在降低個人運行大模型的門檻並保障數據隱私。

昨天,小米一口氣發佈了玄戒 O3、O100 和 D100 三顆全新自研晶片。我們昨天已經詳細拆解過它們的紙面規格

無論是 O3 Geekbench 6.5 多核破 1.5 萬分的 CPU 成績,還是 O100 身上通過 3D 堆疊壓榨出的 1.22 TB/s 超高頻寬,就紙面資料而言,提升確實非常激進。

但大夥兒心裡難免也會打個問號:離開實驗室和跑分軟體,這些晶片在真實裝置裡的實際表現到底怎麼樣?

這次,我們在技術溝通會的現場,體驗到了兩台搭載全新晶片的工程原型機。

一台是背面加裝了主動散熱風扇、在斷網狀態下本地運行大模型的折疊屏原型機;另一台則是打滿散熱孔、直接在本地跑 120B 大模型的桌面計算終端 AI Cube。

這三顆晶片裝進硬體後都有那些能耐,我們在現場找到了答案。

把風扇塞進折疊屏,本地大模型學會了「秒回」

我們首先體驗到的是玄戒 O100 原型機。

這台裝置的整體形態類似一台折疊屏手機,但背面並沒有常規的多攝模組,取而代之的是一整塊金屬工程結構件。上方開著圓形的進出風格柵,裡面還塞了一顆主動散熱風扇。

翻到正面,展開的大尺寸內屏上運行著測試工具 XRING LAB。而當我們嘗試退出這個測試軟體後,底層跑的就是大家熟悉的常規澎湃 OS。

在現場演示中,這台折疊屏在斷網狀態下本地運行小米 MiMo 3B 模型。我們在輸入框敲入一段複雜的提示詞,XRING LAB 底部顯示的響應延遲(TTFT)只有 0.45 秒左右。

實測生成速度能達到 303 tokens/s,峰值甚至能衝到 330 tokens/s,還沒反應過來,回答就已經鋪滿了螢幕。

對於端側 AI 來說,生成速度直接決定了它在日常生活中到底能不能派上用場。

當生成速度快過人眼的閱讀節奏,無論是複雜文件的即時潤色,還是通話過程中的同聲傳譯,AI 都能做到即問即答的跟手體驗,同時還能守住完全不依賴網路、資料不出本地的隱私底線。

這也是未來端側 AI 裝置的一大賣點。

辦公桌上的黑色金屬盒,讓龐大模型在本地寫程式碼

看完掌上的折疊屏,再來看看展台旁邊這台充滿硬核工業風的黑色「方盒子」——Xiaomi AI Cube「Prototype」。

整機由一整塊航空鋁 CNC 一體成型打造。

為了壓制內部核心的高負載發熱,機身四周密密麻麻開鑿了整整 33,874 個精密鏤空孔,腰線處嵌入了一條低調的環形燈帶,底部則排佈著一整圈整齊的橫向散熱鰭片。

這台裝置內建了 80 GB 記憶體(晶片最高可支援 160 GB),運行的是 Android 系統,並在本地直接部署了 120B 參數的大模型。

現場工作人員輸入了一段需求,要求模型生成一個鋼琴網頁,左側的任務列表迅速開始解析,右側隨後刷出大段前端程式碼。

不一會兒,螢幕上直接運行起一個功能完整的「Web Audio 線上鋼琴」應用,上方有即時音訊波形與控制滑塊,下方的黑白琴鍵用手指點選就能即時發聲。

AI Cube 還支援 3B + 120B 的快慢雙模型切換。輕量的高頻指令由 3B 小模型秒回,真正需要深度推理的程式碼生成才交給 120B 接管。簡單問題不用等,遇到複雜的 Coding 任務時,桌上的這台方盒子也完全能勝任。

對於有本地計算需求的使用者來說,小模型推理飛快但容易在複雜任務上「胡亂發揮」,而聰明的千億級大模型門檻又高得嚇人。

這台「方盒子」在辦公桌上找到了平衡點:既有小模型隨時待命的輕快,又有千億大模型紮實的邏輯底力,把以往需要專業工作站才能做的事情,變成了一件觸手可及的桌面工具。

展台上的這兩台裝置,展示了工程團隊探索端側算力的兩個具體方向。

一台在折疊屏有限的機身裡,依靠專用加速晶片拉滿記憶體頻寬,跑出了完全離線的即時互動;另一台則借助放開的桌面空間與多晶片協同,在本地穩定運行 120B 的程式碼生成。

隨身裝置負責輕量高頻的「秒回」,桌面終端承接重度複雜的推理,不同尺寸的硬體各自有了明確的分工。

無論是背著風扇的折疊屏,還是打滿散熱孔的 AI Cube,現場這兩台機器展現出的離線 AI 能力,都讓人看到了端側硬體的紮實底力。

離線即時響應和本地程式碼生成,已經變成了看得見、摸得著的真實體驗。

或許我們也可以期待一下,小米未來能真正量產一台「年輕人的第一台端側 AI 算力中樞」,讓每個人都能低門檻在本地跑起屬於自己的大模型。 (愛范兒)