一個擁有270億參數的大模型，正在被壓縮到手機可以運行的規模。

2026年7月，矽谷創業公司 PrismML 發佈 Bonsai 27B 模型，通過低位元量化等技術，將原本需要數十GB空間的大模型壓縮至約3.9GB，並實現消費級裝置上的本地運行。

這件事真正值得關注的，並不是手機性能又提升了一次，而是人工智慧產業正在出現一個新的變化：過去幾年，AI能力主要集中在雲端伺服器中，使用者通過網路呼叫模型；而未來，一部分AI能力可能直接進入手機、電腦和其他智能裝置。

AI正在從“雲端服務”，走向“端側智能”。

過去幾年，大模型的發展遵循了一條非常清晰的路徑：模型規模不斷擴大，訓練需要越來越多的算力，推理任務則依賴大型資料中心完成。使用者使用AI，本質上是在遠端呼叫一套由巨額資本投入打造的智能計算系統。

這種模式推動了大模型公司的快速發展，但也帶來了兩個現實問題。

當越來越多的人使用AI助手、AI搜尋和AI Agent時，雲端伺服器需要承擔持續增長的計算壓力。對於企業來說，AI能力越強、使用頻率越高，背後的算力成本也越高。

越來越多的AI應用涉及個人資訊、企業資料和專業資料。醫療、法律、金融等領域，並不是所有資料都適合上傳到雲端處理。

端側模型的發展，正在嘗試解決這些限制。

通過模型壓縮、參數量化以及硬體最佳化，原本需要大型伺服器運行的模型，可以被放入更小的裝置中。AI計算的一部分，將從遠端資料中心轉移到使用者自己的裝置上。

過去，使用者購買的是雲端AI服務；未來，一部分AI能力可能成為裝置本身的一項基礎功能。

未來的人工智慧體系，更可能形成一種新的分工：

例如大規模知識推理、多模態分析、專業領域計算，這些仍然需要強大的伺服器和持續訓練能力。

例如個人助手、本地搜尋、即時互動以及涉及隱私的資料處理。

根據任務需求進行智能調度，決定那些工作在本地完成，那些任務交給雲端處理。

雲端決定AI能力的上限，端側決定AI進入普通使用者生活的速度。

過去，AI競爭主要圍繞“誰擁有更大的模型”。

未來，競爭可能進一步延伸到：誰能夠讓AI進入更多裝置，連接更多場景，成為使用者每天使用的智能入口。

因此，27B模型進入手機的意義，並不是手機替代資料中心，也不是雲端模型時代結束。

真正發生變化的是AI產業的分發方式。

如果過去人工智慧的核心資源是模型和算力，那麼未來，裝置入口、作業系統和應用生態的重要性可能不斷提升。手機廠商、電腦廠商以及企業軟體平台，都可能成為AI能力普及的重要管道。

當模型足夠小，裝置足夠強，本地運行成本足夠低，AI才會真正從少數企業和開發者使用的工具，變成普通使用者每天接觸的基礎能力。

下一階段的AI競爭，爭奪的不只是模型能力，更是誰能夠讓智能真正進入使用者每天使用的裝置和場景。 (方到)

加州理工分拆的初創公司PrismML宣稱，已將Qwen 3.6的270億參數模型從54GB壓縮至不到4GB，並成功在iPhone 17 Pro本地運行，且不犧牲性能。這一突破正好契合蘋果“端側AI”路線。最新消息稱，蘋果已經與PrismML就該技術展開溝通。

對於堅持“端側AI”路線的蘋果而言，一家初創公司的最新成就，或許即將解鎖iPhone“AI智能”的天花板。

最新報導顯示，美國初創公司PrismML表示，已經成功壓縮阿里巴巴開源大語言模型Qwen 3.6的270億參數量版本，使其能夠在 iPhone 17 Pro上運行。公司透露，他們為iPhone開發的“壓縮模型”能夠完成複雜對話、推理、完全自主的智能任務以及軟體程式設計等功能。該開源模型將於下周二開始提供下載。

參數量通常用來衡量模型處理問題的能力。一般而言，目前大多數手機和筆記型電腦只能運行數十億參數量的模型。除了處理器算力不足外，移動裝置的視訊記憶體容量也是難以踰越的障礙。

PrismML是加州理工學院分拆出來的初創公司，該校電氣工程教授哈西比與創業團隊完成了實現“大模型壓縮”所需的數學研究。加州理工學院擁有相關技術的專利，並獨家授權給哈西比創辦的PrismML。

據悉，PrismML已經將千問3.6大模型的體積從54GB壓縮至不到4GB。通常情況下，模型體積縮小會導致性能下降，但該公司聲稱其用於壓縮模型大小的技術並不會影響性能。

這種“在本地裝置上跑AI”的邏輯，正是蘋果公司近年來的核心AI戰略。消費電子巨頭在耗資巨大的資料中心建設競爭中基本處於冷眼旁觀的狀態，同時一直倡導讓儘可能多的AI功能在裝置本地運行。

問題在於，蘋果自己的開發成果一直拿不上檯面。在今年6月的開發者大會上，蘋果公佈了基於GoogleGemini模型的Siri升級。但其中最複雜的功能依然體積龐大，蘋果仍需要依賴運行在Google雲上的輝達晶片提供算力支援。此前也有報導稱，蘋果曾嘗試過把模型壓縮到能裝進iPhone的程度，但發現模型能力出現嚴重下滑。

橫向對比，蘋果新推出的某款本地AI模型雖然聲稱擁有200億個參數，但採用的是稀疏架構，即一次僅有10億至40億個參數處於活躍狀態。而PrismML聲稱其開發的本地模型能讓全部270億個參數同時處於活躍狀態。

據報導，熟悉相關談判情況的人士透露，蘋果公司已經與PrismML就如何運用其技術進行了溝通。

PrismML的首席執行長哈西比對媒體表示，他預測未來絕大多數人工智慧處理流程，最終將由本地裝置來完成。而把模型縮小到可在本地裝置上運行的規模，從根本上改變了人工智慧的商業模式。

他說：“試想，也許三年後，你所需要的95%的智能服務都能在本地獲取——無論是手機、筆記型電腦還是各類家用裝置上，而只有那最後5%的高端功能才需要依賴雲端。”

哈西比也表示，PrismML計畫繼續壓縮更大規模的AI模型，甚至是兆參數等級的模型。這將使其進入OpenAI的GPT、Anthropic的Claude等前沿模型所在的領域。 (科創板日報)

彙整鉅亨號中所有使用「PrismML」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

塞進手機裡的27B模型：AI開始進入端側時代

美初創公司，將阿里模型壓進iPhone