1.AI 手機是否能成為消費性電子領域的新風口，其轉捩點在於應用端需求是否會迎來爆發性成長。與AI PC 相比，手機的使用場景更加多元，能滿足更廣泛的產業需求，這使得AI 技術在手機端的普及顯得更為可行。目前，無論是國內還是國際的手機生產商，都在系統級內容檢索、圖文內容創作、AI 通話助理、AI 翻譯等領域進行了深入探索，並在這些方面與軟體開發商展開合作。如何與大模型APP 的體驗形成差異，是限制AI 手機激發使用者換機需求的核心困境。

2.由於晶片、記憶體、體積以及成本等因素的限制，短期內讓大模型完全在行動端運行仍舊存在挑戰，因此端雲結合將成為AI手機技術實現的主流方案。在這條技術路線中，手機生產商系統層級整合大模型的能力、軟體生態的建構與整合、互動的易用性將成為它們與友商競爭的關鍵。長期看，為突破手機性能方面的限制，手機製造商必將依靠高性能、高性價比的SOC、內存晶片來實現AI 手機體驗的飛躍。

三星AI概念輔助S24系列手機銷售上漲

作為全球最大的手機製造商之一的三星，在近幾年的智慧型手機市場中遭遇了許多挑戰。特別是隨著手機創新力的匱乏以及中國市場的萎縮，最終在2023年被蘋果打敗失去了全球第一大手機品牌的頭把交椅。

然而在今年，依靠最新的性能旗艦——Galaxy S24系列，三星似乎找到了扭轉局勢的殺手鐧：AI。根據報道，S24系列手機自上市以來，全球銷量相比上一代旗艦年增了8%，在激烈的市場競爭中脫穎而出。特別是在韓國本土，Galaxy S24的預訂量年增22%，總銷量達到了121萬台，創下了S系列在韓國的最高預訂記錄。在歐洲和美國市場，這一系列手機的銷售量同樣實現了顯著成長。

為此，三星宣布將在2024年為1億台Galaxy 設備配備Galaxy AI 功能，展現出其在AI 手機領域的雄厚實力與雄心。

功能上海內外AI 手機廠商技術推進基本同步，互動體驗存在差異

AI手機目前發展狀況如何？我們透過研究了海內外幾大主流廠商的AI 概念手機，可以得到的結論是：全球AI 手機的發展進度中外基本同步。目前，主流的AI 手機在功能上集中在四個大方向：即時語音文字翻譯、文件處理、全域搜尋和修圖影像。其中，文字翻譯方面，基本上實現了端側的部署，而文件處理、全域搜尋、影像則需要結合雲端大模型來實現。從應用程式角度我們可以看出，AI 在手機上的應用更聚焦於使用者的垂類需求。

三星S24海外版由於採用了Gemini的大模型，因此在AI功能的全面性上具有領先地位。而國內手機品牌使用者對於手機AI體驗的差異較多來自於軟體互動層面，且普遍依賴手機內建的助手，以對話方塊、輸入法介面的方式與雲端大模型進行資料的互動。呼出AI助手的便利程度，魅族可以透過長按呼出，其他廠商需要拖曳側邊欄等方式；有的AI可以直接拖動畫面中的文字、圖片進行識別，有的僅只能長按複製。但這些基本上在後期版本OTA迭代中都可以進行最佳化。

圈圖搜尋。類似於一種全局化的“圖片搜尋”，體驗感與傳統搜尋引擎的功能類似；長文總結。大段的文字可以總結表達，文字潤色，Chat Assist應用，當用戶鍵入訊息時，聊天助理會對其進行分析，並可以更改文字以使其聽起來符合用戶想表達的情感；圖像編輯。系統級的簡易PS移位。內建大模型可以對使用者的相簿中的照​​片進行分析，並且給予美化、修改的建議。例如完成將圖片虛化，對色調進行重構，為黑白照片上色等AIGC工作。此功能需要雲端運算，國內由美圖秀秀提供技術支援；即時語音翻譯。此功能為端側部署，整體創新性、體驗感很強，但應用場景必須是和不同母語的對象進行電話交流，對於國內用戶來說比較受限，可能在商務場景、出境旅遊等具有使用價值；對於國際用戶來說實用性或許尚可。

魅族、Oppo、VIVO 的AI功能包含文字、AI影像編輯、系統級AI助理等。魅族21 pro的AI 修圖功能是可以在端側運行；OPPO Find X7 利用自研70億參數語言模型的安地斯大模型AndesGPT ，支援AI 通話摘要、AI小助手、AI圖片繪製功能；Vivo X100 內建自研藍心大模型，主要依賴小V助手呼叫各類AIGC功能，包括手機內檔案的快速查找、摘要總結、文字寫作、圖像生成等功能。

榮耀採取的技術路徑是從作業系統側的升級進行AI賦能，榮耀聲稱MagicOS 8.0是平台級的AI產品，其解決了將70億參數AI大模型通過量化壓縮，成功部署在驍龍8Gen3平台的技術難題。走作業系統的推送賦能，優勢是用戶不再需要更換新的所謂的AI 手機來滿足需求。 Magic OS 的主推功能是 Magic Portal ，可實現系統層級的跨應用連動，支援文字和影像等多模式輸入。利用此功能，使用者在任意場景下長按、拖曳滑動關鍵內容訊息，系統就會基於上下文在側邊欄提供建議使用的應用程式捷徑。具體使用場景包括拖曳聊天記錄中的地址，直接導入叫車軟體快速叫車；在任意介面長按一款衣服的圖案，然後將其拖曳到側邊推薦欄的購物程序中進行同類商品搜尋。

硬體層面，Pixel 8系列手機搭載的Google Tensor G3處理器主要針對TPU和AI功能進行了最佳化，特別在運算攝影能力和系統層面的AI功能。 G3處理器為運行Google的AI模型量身設計，包括最新一代的ARM CPU、升級的GPU、新的ISP和Imaging DSP以及新一代TPU。 pixel 8 系列主要配備了AI照片編輯工具，修復合照時人臉朝向問題。 AI音訊消噪，並且朗讀網頁、對不同的語言進行翻譯。 Call Screen智慧語音識別，區分使用者想要和不想要接聽的電話。簡訊回覆助手，可以產生上下文回覆建議，快速回應簡單電話，如約定確認，從而提高通訊效率。

系統層+應用層結合，「端雲結合」成AI 手機技術實現的高可靠性路徑

根據官方報道，S24的大模型是GoogleGemini 大模型和三星自研Galaxy  AI 的有機整合，共同賦能消費終端智慧化應用。 Galaxy AI更多是系統層，即端側的大模型，表現為全局實時的圖像資訊抓取、全局呼出式的AI 助手；而雲端或應用層層面，三星主要接入的Gemini 大模型實現AIGC的輸出。

「端雲結合」的技術策略較為穩健，不會造成AI手機單機價值鏈的攀升。並且從雲端升級，可以讓老機型用戶也能獲得一定的AIGC 體驗，從而獲得更多的訂閱用戶。相對平穩的售價過渡，在價格層面對消費者而言，並不會形成體驗的門檻。但也正是因為AI 手機本身端雲結合的體驗，相較於垂類軟體來說使用者會認為體驗沒有差別，對於新機的銷售促進作用較弱。

AI手機存在這樣一個悖論：輕度的AI 需求雲端處理速度很快，透過通訊傳輸給到用戶手機上的速度與本身端側的處理速度差異不大；重度的AI需求就算是AI手機也會有算力不夠、運作緩慢的問題，因此也必須依賴雲端大模型及專用APP實現，但這樣AI 手機與一般智慧型機的體驗並無差別。

這個悖論反映的問題就是，AI 手機是否有必要提高手機效能，發展端側的算力，擴大記憶體？

2023年智慧型手機出貨的主要賣點仍然是相機模組與晶片性能，這點在國內的競爭者中體現得尤為明顯：華為依靠麒麟9000s實現了Mate 60銷量的逆襲，小米、OPPO、VIVO三家依靠50MP + 潛望長焦+ 大尺寸CMOS模組，將畫質提升至第一梯隊，實現了銷售成長。這一事實側面反映消費者對於AI 手機的意識認知並非是換機驅動的首要因素。目前來看，我們能夠給到的結論是：C端用戶對於AI手機的需求仍然不強， AI 手機更多是附加在用戶一般換機需求的一個亮點產物。

端雲結合，軟體生態構築是應用側優化的關鍵路徑

越來越多的手機中游廠商更多選擇與軟體廠商形成合作。AI 的使用本身就具有一定的門檻，用戶購買手機是為了實現自身的應用需求，因此更加垂類的應用場景需求具備最先爆發的可能。

三星Galaxy AI 中國本土化合作方為百度、WPS、美圖等垂類應用公司。

AI 產品賦能的價值已在軟體公司23年報表中反映出來。 2023年美圖公司實現總營收27億元(yoy +29.3%)，全年調後歸母淨利3.7億元(yoy+233%)。其中影像（訂閱）收入13.3億元(yoy+52.8%)，付費用戶數911萬(yoy +62.3%)，付費率3.7%。公司自2023年6月發布奇想智能(MiracleVision )大模型以來，迭代速度飛快，從最早的文生圖，迭代至了4.0版本聚焦設計與視頻。美圖秀秀、美顏相機app裡AI功能的付費轉換率已達40%以上。另一方面，生產力場景聚焦到工具效果，在垂直場景中協助使用者提高效率，美圖設計室的付費滲透率6%。

金山辦公業績預告顯示，其2023年預計實現營業收入45.56億元（yoy +17.27%），歸母淨利13.19億元（yoy +18.03%），實現扣非歸母淨利12.64億元（yoy + 34.58%），經營績效實現穩健成長。金山公司於23年11月全線產品接取WPS AI，進一步抬升用戶的客單價水平，2B+2C訂閱收入快速成長。針對2C用戶實現營收約26.53億元，年增約29.42%；2B的機構訂閱營收約9.57億元（yoy +38.36%）。

手機廠商在端雲結合的格局下，所扮演的角色更多需要將軟體生態進行優化，在系統層實現N 個大模型的接口集成，加強與本地模組的融合度。換言之，「AI手機」將趨近門戶化，手機廠商透過自有的品牌優勢、分送、銷售通路拓展的能力，與大模型、軟體廠商合作共贏發展。在這樣的局面下，未來區分AI 手機銷量成功與否的關鍵，就在於手機系統層AI調用的易用性好不好、集成大模型的數量多不多、大模型的性能夠不夠強。

AI 手機透過應用程式連動整合，是「站在巨人的肩膀上」。透過AI 連結第三方app，能夠快速定義產品的應用場景，並且能夠依托軟體技術的進步來實現自身產品能力的迭代；風險是相較於傳統的智能機缺乏差異化，技術主導權甚至定價權由上游軟體廠商瓜分較多。例如近期，三星近期便透露將逐步開啟軟體付費的功能，用戶使用諸如AI 修圖的功能需要額外支付訂閱費用等。

硬體板塊，晶片算力+記憶體模組廠商的成長值得長期關注

Soc + 記憶體是未來 AI 手機端側硬體瓶頸

AI 手機的終端算力來自SOC ，而SOC的尺寸、製程、功耗三者之間的平衡是限制大模型「上端」的關鍵所在。

目前主流的晶片，例如高通驍龍8 Gen 3系列已經具有足夠的推理算力。 3月18日發布的8s Gen 3 支援包括Meta Llama 2和Google Gemini Nano多種模型，可在端側完成照片編輯和即時翻譯工作。

自23Q4以來，半導體先進製程方面，以台積電為代表的晶圓代工廠普遍處於供不應求的狀態，而成熟過程的代工商聯電、中芯國際目前面對的局面是供大於求、產能農作物動率仍不足等困境。從台積電營收佔比來看，23Q4高效能運算和智慧型手機份額均為43%。其中智慧型手機市場23年H2隨著上游產業鏈去庫完成，國內高階智慧機需求反彈，帶來上游晶圓廠景氣度有所恢復，Q3、Q4佔比持續回升。 AI 手機概念的進一步引入，可望疊加換機週期的影響，為先進製程廠商帶來持續的績效提升。

對於端側的大模型推理來說，記憶體效能是不亞於SOC效能的關鍵因素。根據評測報告報道，Googlepixel 8和pixel 8 pro兩個型號儘管都搭載了三星4nm 製程的Tensor G3，但是由於pixel 8 普通版僅有8GB RAM的內存，而8 pro是12GB RAM，導致在用戶側有很多AIGC功能只能8 pro才能較好實現。蘋果3月發表的MacBook Air (M3)是8GB RAM起步也遭業界批評，被認為8G記憶體完全不夠AI PC端側大模型的運算。因此我們認為，AI 手機概念景氣度的提升，勢必會拉​​動高階機種記憶體容量的起跳標準。

根據天風證券報道，美光預計智慧型手機OEM將在2024年開始大量生產支援人工智慧的智慧型手機，每台AI手機的DRAM 會額外增加4-8GB的容量；三星電子等2023年第四季向多家大型智慧型手機公司供應的行動DRAM 價格上調了25%至28%左右，這一幅度超出了市場預期。

從儲存產業整體的行情來看，受AI 需求以及去庫存的影響，DRAM儲存的現貨價格已經出現上升態勢，基本上能夠確認儲存的下行週期已經基本結束。記憶體晶片的需求面手機、PC、伺服器Q4季比需求向好，24Q1價格預計穩定，Q2進入下半年備貨節奏可望持續上漲。作物動率方面，海外三大原廠下半年平均生產率6~7成。 Q3、Q4減產幅度已大幅收窄， 24Q1減產接近尾聲，Q2需求成長可能推升產率。我們認為Q4消費性電子復甦輔助儲存景氣在今年會持續上升，整體看24年偏向弱復甦的態勢。

長期來看，AI 手機如若能拉動消費性電子應用的復甦，在這樣的前提下，端側大模型的算力應用的需求，會帶來手機記憶體晶片市場量價齊升的高景氣度格局。（新財富）

【新智元導讀】許久未更新大模型的輝達推出了150億參數的Nemotron-4，目標是打造一個能在單一A100/H100可跑的通用大模型。

最近，輝達團隊推出了全新的模型Nemotron-4，150億參數，在8T token上完成了訓練。

值得一提的是，Nemotron-4在英語、多語言和編碼任務方面令人印象深刻。

論文網址：https://arxiv.org/abs/2402.16819

在7個評估基準上，與同等參數規模的模型相比，Nemotron-4 15B表現優異。

甚至，其性能超過了4倍大的模型，以及專用於多語言任務的模型。

如今LLM已經非常多了，輝達新發布的語言模型，有何不同？

打造最強通用LLM，單一A100/H100可跑

最近發表的LLM研究受到了Chinchilla模型「縮放定律」的啟發——給定固定計算預算，數據和模型大小一同優化。

而過去，研究主要針對模型大小進行縮放。

研究表明，給定兩個數據分佈類似的IsoFLOP GPT模型，一個是在1.4萬億token上的65億參數模型，另一個是3000億token上的2800億參數模型。

顯然，65B的模型在下游任務上的準確性更高。

從推理的角度來看，將計算分配給更多資料的訓練，而不是增加模型大小特別有吸引力，可以減少延遲和服務模型所需的計算量。

因此，語言建模訓練工作的主要焦點已轉向從CommonCrawl等公共資源中，收集高品質的數萬億token資料集。

對此，輝達研究人員提出了Nemotron-4 15B，來延續這一趨勢。

具體來說，Nemotron-4 15B是在8兆個token，包括英語、多語種、編碼文本的基礎上進行訓練。

輝達稱，Nemotron-4 15B的開發目的：

成為能在單一輝達A100或H100 GPU上運作的最佳「通用大模型」。

Nemotron-4採用了標準的純解碼器Transformer架構，並帶有因果注意力掩碼。

Nemotron-4有32億個嵌入參數和125億個非嵌入參數。

研究人員使用旋轉位置編碼（RoPE）、SentencePiece分詞器、MLP層的平方ReLU活化、無偏置項（bias terms）、零遺失率，以及無限的輸入輸出嵌入。

透過分組查詢關注（GQA），可實現更快的推理和更低的記憶體佔用。

研究人員在包含8兆個token的預訓練資料集上訓練Nemotron-4 15B。

分為三種不同類型的資料：英語自然語言資料（70%）、多語言自然語言資料（15%）和原始碼資料（15%）。

英語語料庫由來自各種來源和領域的精選文件組成，包括網頁文檔、新聞文章、科學論文、書籍等。

程式碼和多語言資料包括一組多樣化的自然語言和程式語言。

研究人員發現，從這些語言中適當地採樣token是在這些領域中獲得高準確度的關鍵。

此外，研究人員分別在圖3和圖4中共享預訓練資料集中用於代碼和多語言標記的分佈。

Nemotron-4使用384個DGX H100節點進行訓練。每個節點包含8個基於輝達Hopper架構的H100 80GB SXM5 GPU。

在執行無稀疏性的16位元浮點（bfloat16）算術時，每個H100 GPU的峰值吞吐量為989 teraFLOP/s。

每個節點內，GPU透過NVLink和NVSwitch（nvl）連接；GPU到GPU的頻寬為900 GB/s（每個方向450 GB/s）。

每個節點都有8個NVIDIA Mellanox 400 Gbps HDR InfiniBand主機通道適配器（HCA），用於節點間通訊。

研究人員使用8路張量並行和資料並行的組合來訓練模型，也使用了分散式優化器，將優化器狀態分片到資料並行副本上。隨著批次大小的增加，資料並行度從96增加到384。

表2總結了批次大小提升的3個階段，包括每次迭代時間和模型FLOP/s利用率（MFU）。MFU量化了GPU在模型訓練中的利用效率。訓練大約在13天內完成。

與最近的研究類似，研究人員發現在模型訓練結束時，切換資料分佈和學習率衰減時間表，可以大大提高模型品質。

具體來說，在對整個8T預訓練資料集進行訓練之後，使用相同的損失目標，並對與預訓練token相比的較少的token進行持續訓練。

在這額外的繼續訓練階段，利用兩種不同的資料分佈。

第一個分佈是，從持續訓練期間大部分token採樣。它利用在預訓練期間已經引入的token，但其分佈將更大的採樣權重放在更高品質來源上。

第二個分佈，引入了少量基準式對齊範例，以更好地讓模型在下游評估中回答此類問題，同時也增加來自模型效能較低區域的資料來源的權重。

研究人員在涵蓋各種任務和領域的下游評估領域評了Nemotron-4 15B。

作者使用LM-Evaluation Harness在所有上述任務中評估Nemotron-4 15B。

表3顯示了Nemotron-4 15B在這組不同的任務中實現了最強的平均表現。

從表4可以看出，Nemotron-4 15B在現有模型中獲得了BBH的最佳分數，增加了近7%。

此外，Nemotron-4在BBH基準測試中明顯優於LLaMA-2 70B模型，其中LLaMA-2 70B的得分為51.2，Nemotron-4的得分為58.7。

Nemotron-4 15B另外還獲得了極具競爭力的MMLU分數。

表5重點介紹了Nemotron-4 15B在數學和程式碼任務上的表現。

具體來說，在數學推理上，Nemotron-4 15B表現強勁，得分與Gemma 7B相似，但落後於Baichuan-2和QWEN等模型。

在程式碼任務中，Nemotron-4的效能與QWEN 14B相當，但略落後於Gemma 7B。

在這兩種類型的任務中，Nemotron-4 15B的效能均優於Mistral 7B和LlaMA-213B/34B。

幾乎所有類似規模的開放模型都只根據Python相關任務的表現來確定其程式碼能力，而忽略了對其他程式語言能力的評估。

在表6中，展示了Nemotron-4 15B在Multiple-E基準上的結果，涉及11種不同的程式語言。

結果發現，Nemotron-4 15B在各種程式語言中都有很強的編碼性能，平均性能優於Starcoder和Mistral 7B。

研究人員特別強調了Nemotron-4 15B在Scala、Julia和R等低資源程式語言上的卓越表現。

在表7中，可以清楚地看到Nemotron-4在所有模型中實現了最佳性能，在4次設定中實現了近12%的改進。

彙整鉅亨號中所有使用「通用大模型」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

AI手機：通用大模型的門戶

輝達最強通用大模型Nemotron-4登場！15B擊敗62B，目標單張A100/H100可跑