蘋果發表AI PC產品,AI PC 元年已到

行業近況:

3月4日晚間,蘋果突然更新MacBook Air ,進入3nm製程的M3晶片時代。

作為蘋果首款AI PC產品,在M3晶片的加持下,macOS提供AI功能,使用者可實現即時語音轉文字、翻譯、文字預測、視覺理解、輔助功能等,支援運行Microsoft Copilot for Microsoft 365 、Canva和Adobe Firefly 。蘋果表示,MacBook Air還可以運行優化的AI模型,包括大型語言模型(LLMs ) 和擴散模型,用於本地生成圖像,性能極佳。

產業動態


大模型的最佳載體

AI大模型在雲端運作雖然具有便於管理和擴展的優點,但也面臨資料安全、隱私保護、網路延遲和高昂營運成本等挑戰。這些問題在一定程度上限制了AI大模型的商業化應用。為了解決這些問題,將AI大模型嵌入終端設備,形成所謂的混合AI架構,已經成為促進大模型普及的重要趨勢.

端側AI部署是目前AI實現規模化擴展及應用落地的關鍵。作為底層技術和上層應用之間的載體,AI PC使用場景與AI大模型目前覆蓋的應用場景高度重合,是大模型的最佳載體,也是推動AI技術普及的關鍵設備,並且在模型側、硬件側均有產業升級趨勢。

混合式AI優勢

端側的算力比雲端的弱,因為雲端伺服器的CPU算力更強。


行業前景

英特爾計畫2年內出貨1億顆AI PC晶片英特爾表示,目標在2024~2025年出貨1億顆AI PC晶片,24年4000萬顆,25年提升至6000萬顆,彰顯了對AI PC發展信心。

2025年,預計AI PC將佔到PC出貨量的20%。預計今年交付4,000 萬台AI PC,明年將交付6,000 萬台,佔2025 年預計全球PC 市場總量的20% 以上,預計到2025年AI PC將佔60%以上。


AI PC 帶來硬體升級

為大模型的本地運行需要強大的處理能力,相比傳統PC,AI pc帶來了處理器晶片,內存,散熱等硬體的升級。微軟宣布其AI PC的最低算力為40 TOPS,大幅提升了硬體需求。

以蘋果發表的新款Macbook Air為例,其搭載M3晶片,效能表現是M1晶片的1.6倍,圖形處理速度最高達5.8倍。

AI大模型的運行對內容容量要求比較高,蘋果新款AIR 最高支援128G記憶體容量,大內寸支援大模型,PC記憶體擴大趨勢已成,大容量的DDR5等DRAM產品滲透率會快速提升。

晶片效能提升勢必會帶來更多的能耗,散熱需求提升,就像AI伺服器一樣,也是由於能耗提升產業從風冷轉向液冷,價值鏈大大增加。


AI PC對儲存容量和速率需求的提升

AIPC (加速運算處理器)對儲存容量和速率的要求較高,需要搭載專用晶片組和區塊來承載端側的AI運作負載。微軟對IPC對指令件的規格製定了記憶體配置要求最低為16GB ,記憶體傳輸速率也需要更高。因此DDR5/LPDDR5滲透率提升及DRAM容量提高。

CKD(時脈驅動晶片)的滲透率將與DDR5滲透率相關,主要應用於DDR5內存,當DDR5的資料速率達到6400MT/s及以上時,CKD晶片將成為PC和筆記型電腦記憶體的一個重要組成部分,將受益於AIPC的加速。


DDR5和LPDDR5記憶體狀況

去年以來三星,美光海力士,大幅縮減產能,半導體儲存市場週期性反轉,而DDR5相比DDR4實現了性能的大幅提升,具體為傳輸速度更快、能耗更低、穩定性提高、內存密度更大和存取效率提高等優勢,滿足了這兩年AI算力的高速發展需求,產能進展,從去年Q4開始,三星,海力士都在提升DDR5產能,預計2024年滲透率達到30-50% ,美光預計其DDR5出貨量將在今年第一季末超過DDR4產品。

關注國內龍頭,瀾起科技,兆易創新,聚辰股份,安集科技,雅克科技


AI PC帶動散熱系統升級

高算力需要高的散熱能力, AI pc可能帶來新的散熱方案,產業液冷技術佔比會提升IDC預測到2024年,超過75%的PC將採用液冷散熱技術。


ARM架構有機會份額提升

從市場佔有率角度, Arm架構在PC領域相比主流的x86架構仍有一定差距,但得益於Arm的低成本、低功耗、長續航,日益加強的性能和系統通用性以及海量終端設備生態,未來有龐大的市場成長潛力。


AI PC內建AI模型的優勢

本文討論了PC端內建AI模型相比於雲端算力的優勢。首先,內建模型在離線環境下更方便使用;其次,內建模型能夠記錄個人使用習慣,實現更個人化的推理;最後,內建模型能夠保護隱私,避免資料外洩風險。此外,在國內使用端側模型可以獲得更好的使用體驗。


AI PC對遊戲體驗的影響及應用前景

A IPC能夠為遊戲開發者提供端側模型部署能力,降低雲端API呼叫成本,理論上是一個經濟上可行的方式。然而,遊戲場景的滲透可能比辦公室場景更晚,預計在2025年左右初步滲透。除了辦公室需求,AI手機的小螢幕互動是否更便捷,AI數據和AIPC相比在一也有優勢,目前PC端應用更多,行動端應用較少。


為什麼邊緣AI的普及可能性大?

邊緣AI的普及可能性大是因為隨著模型技術的發展,邊緣AI在推理測的這一塊成本不斷下降,未來AI推理的成本的下探,將帶來邊緣AI的普及。

AIPC的產業發展趨勢是什麼?

AIPC的產業發展趨勢包括硬體和應用,以及整個PC產業的出貨量的拉動。


英特爾、高通、 AMD等廠商在處理器方面有何相關發表?

在記憶體方面,升級需求是什麼?

在端測運行數十億參數的大模型升級記憶體容量微軟要求主流的PC記憶體配置為16G傳輸介面需要由PCIE3.0升級到PCIE4.05.0 ,DRAM規格需要由DDR4升級到DDR5 。

端側推理需求為什麼會上升?

端側推理需求會上升,因為雲端訓練有資料安全、傳輸延遲和成本問題,而本地部署可以分擔雲端算力。

模型側有哪些支援大模型部署的需求?

現在的開源模型已經比較完善,開發者社群非常活躍,生態非常健全。能夠支援在端側部署數十億參數或上百億參數的模型。

基於開源模型可以直接微調並在端側部署嗎?AI生態的發展前景如何?

基於開源模型,無論是終端廠商或模型廠商都有端側模型的開發能力,因此可以微調並在端側部署。AI生態的發展前景看好,因為硬體、模型能力和應用生態都具備,而且參與者都在同樣的方向上努力。

AIPC的價格會有什麼變化?

AIPC的價格有望帶動整個整機的價格提升,因為記憶體和處理器晶片的價格會上漲。

AIPC增量的軟硬體可否解釋一下?

AIPC增量主要在硬體上,包括處理器、記憶體和電池容量的升級。

AIPC會為遊戲帶來更好的體驗嗎?

理論上遊戲調用端側模型成本較低,是一種經濟上可行的方式。

應用側AI PC有什麼進展?

作業系統方面,新一代作業系統Windows11重點強調了AI的功能,並提供多項AI工具;應用方面,目前AI應用主要集中在雲端,英特爾本地運行diffusion模型的端側應用。

AI PC對封測有什麼要求?

PC 處理器為了滿足端側運行AI模型的需求,同時兼顧成本、功耗等因素,通常將算力集成在C PU 當中,因此處理器的結構越發複雜,對於封測的難度有較大提升

ARM股價翻倍啟示?

2月初ARM三天翻倍,主要是公司預期未來各類終端(手機、PC、汽車與機器人)都會加入AI,公司為終端AI設計的V9晶片(v9升級主要集中在向量處理等AI運算能力提升)授權收入佔比已經由23Q3的10%提升至23Q4的15%,參考v7/v8的提升過程,預計v9三年左右可以提升至90%的滲透率;而v9授權費是v8的兩倍預期。

核心個股:

聯想,瀾起科技,兆易創新,聚辰股份,安集科技,雅克科技,中石科技,飛榮達,珠海冠宇,芯海科技,思泉新材,春秋電子通富微電等。(每日研究紀要)