“瓜分CPU”

隨著技術的發展，數據量的爆炸性增長，到2025年，全球生成和消耗的數據總量預計將超過180ZB。而電腦的核心部件－中央處理器（CPU）分析資料的能力卻有點力不從心，導致資料處理緩慢且低效。傳統的CPU為了滿足多工處理、高效能和節能要求，變得越來越複雜。在這個高速發展的時代，我們不能再依賴單一的CPU來完成所有的工作。為此，各種特定的處理單元（PU）如雨後春筍般湧現，其目標就是「瓜分」CPU的任務，人多力量大，各司其職，優化運算效率。

GPU在AI時代崛起

CPU是電腦的“大腦”，執行一般運算任務，而GPU則幫助CPU執行圖形和人工智慧等更複雜的任務。

GPU（圖形處理單元）最初是為了滿足圖形渲染的需求而發展起來的，在GPU晶片市場中，英偉達控制著全球約80%的市場。其GPU晶片主要用於遊戲市場，但現在它的作用已經遠不止於此。由於其並行處理的能力，一路高歌猛進的GPU，就像一個無畏的少年，展現了無限的可能。GPU已被廣泛應用於深度學習、科學運算等多個領域。這種運算能力不僅可以加速圖形處理，還能在其他任務上分擔CPU的負擔，如資料分析、機器學習等。

圖形處理單元，GPU，最初是為了滿足對圖形渲染的迫切需求而發展起來的，而現在它的功能已經遠遠超出這個範圍，成為推動現代計算的核心力量之一。由於其平行處理的卓越能力，GPU，就像一個無畏的少年，一路在遊戲、挖礦、AI等領域高歌猛進，展現出了無限的可能。今天，GPU已廣泛滲透到深度學習、科學運算等關鍵領域，成為這些領域不可或缺的一部分。

尤其是在當今的人工智慧的時代，生成式AI的廣泛和深入應用標誌著一場技術革命的到來。在這個背景下，圖形處理單元（GPU）的重要性逐漸超越了中央處理單元（CPU），並站上了歷史的舞台中心。

首先是，作為全球最大的GPU供應商，其英偉達約佔全球80%的GPU市場。2023年6月13日，英偉達的市值首次突破了兆美元大關，使其成為美國第五大市值公司，僅次於蘋果、微軟、Alphabet和亞馬遜。這一里程碑式的事件突顯了GPU產業的健康和成長動力，同時也預示著它在未來將繼續發揮重要作用。

接下來是資料中心業務大反轉。在過去幾年中英偉達的重心開始轉向了資料中心市場。2023年第二季的營收數據顯示了一個非常引人注目的現象。在2023年之前，資料中心的CPU市佔率一直顯著高於GPU。事實上，即便是在2023年第一季，Nvidia在資料中心業務的營收（42億美元）仍未能超過Intel和AMD的總和。但到了第二季度，局面發生了翻天覆地的變化，在資料中心業務上，兩大CPU巨頭英特爾和AMD的營收分別為40億美元和30億美元。而與之形成鮮明對比的是，英偉達的資料中心業務營收超過了100億美元，這數字甚至超過了英特爾和AMD的營收總和。這項數據充分顯示了GPU的地位正在迅速上升，並在某些領域已經超越了CPU。

GPU現在在現代超級運算中佔據了中心地位，它被廣泛用於各種任務的加速，從網路到遊戲，從加密到人工智慧等各個領域。隨著越來越多的運算任務轉移到GPU上，我們可以預見到，GPU將在未來幾十年內繼續是運算和人工智慧領域的主要工具。

為資料處理而生的DPU

有了專門處理圖形的GPU之後，還不夠。在數位化時代，需要有針對資料處理而生的處理器，於是資料處理單元（DPU）應運而生，DPU也被稱為是資料中心的第三大運算支柱。DPU 與CPU 和GPU 搭配使用，可增強運算能力並處理日益複雜的現代資料工作負載。

DPU是專門設計用來處理大量的資料和資訊。它可以有效地處理和分析數據，提高數據中心和雲端運算平台的效能。根據英偉達的說法，DPU應該能完成以下三大項任務：

• 卸載：從伺服器CPU接手基礎架構任務，以便更多的CPU能力可用於運行應用程式。
• 加速：使用DPU晶片中的硬體加速，比CPU更快運作基礎設施功能。
• 隔離：將關鍵資料平面和控制平面功能移至DPU上的單獨域，既可以減輕伺服器CPU 的工作，又可以在CPU或其軟體受到損害時保護功能。

迄今為止，許多DPU 開發都是針對超大規模的。展望未來，DPU 在資料中心和企業網路其他地方的使用預計將會成長。一種可能實現的方式是將DPU 技術與網路交換器相融合——AMD Pensando 將這種技術組合稱為「智慧交換器」。「我們認為智慧交換器是企業吸收DPU 技術的最簡單方法，因為它可以讓他們淘汰舊設備，並為他們的網路帶來重要的技術和規模，」 AMD Pensando 網路技術和解決方案小組首席商務官Soni Jiangdani 表示。

由於人工智慧、機器學習、深度學習、物聯網、5G 和複雜雲端架構需求的成長，DPU市場穩步成長。隨著對資料密集型應用程式的需求不斷增加，運算架構將不斷發展，從而需要更快、更有效率、更安全的資料處理。DPU市場市場上湧現了不少晶片玩家，主要供應商包括國外的英偉達、Marvell、Fungible（被微軟收購）、Broadcom、Intel、Resnics和AMD Pensando，國內還有中科駕馭數、芯啟源雲豹智能、雲脈芯連等等。

根據Allied Market Research 的報告，預計到2031 年，全球資料處理單元市場將達到55 億美元，2022 年至2031 年的複合年增長率為26.9%。因此，DPU 可能會從今天的可選組件轉變為下一代計算的必要行業標準。

爆炸性增長的視頻，需要VPU

隨著視訊內容的普及和人工智慧技術的快速發展，視訊處理單元（VPU，Video Processing Unit）成為了當前科技領域的一顆新星。多年來，英特爾的CPU+軟體的視訊解碼/編碼方案一直主導著串流媒體市場，但是隨著視訊串流媒體對高品質視訊的需求不斷增長，CPU將不再具有經濟價值，而且會消耗太多的能耗和空間。於是，VPU這種專門用來處理視訊的晶片開始興起，他們旨在釋放CPU的龐大勞動力。

VPU（視訊處理單元）是專門設計用來處理視訊任務的，它可以有效率地處理視訊編碼和解碼、影像處理和機器視覺等任務。透過將這些任務從CPU或GPU上卸載，VPU可以提高系統的整體效率和效能，同時也減輕了CPU或GPU的負擔，使它們可以專注於其他任務。而這樣的VPU通常還有高效能、低功耗和低延遲等多個優勢，根據SemiAnalysis對VPU晶片廠商鎵銘微電子（NETINT）的分析，相較於CPU和GPU，VPU的密度和功耗是CPU和GPU無法比擬的，VPU的出現可以說是為影片產業應用帶來了前所未有的加速運算能力。

當下4K、8K等高畫質視訊技術的廣泛應用，使得視訊處理的運算負擔持續上升，這使得高效能的VPU成為產業發展的必備工具。目前包括Google、Meta、位元組跳動和騰訊等網路巨頭都已經瞄上這顆晶片。同時，AMD在今年4月，發布了一款用於資料中心的新型專用媒體加速器和視訊編碼卡－Alveo MA35D，英特爾則是將VPU整合到其14代酷睿Meteor lake處理器中。除了雲端和資料中心之外，終端也成為視訊及遊戲的主要載體，手機廠商愈發追求視訊或影像品質。對此，vivo/小米以視訊晶片為自研切入點，如Pixelworks/逐點半導體這樣的第三方視訊晶片供應商也開始迎來發展契機。

未來，視訊處理晶片市場預計將繼續成長，特別是在邊緣運算、物聯網(IoT) 和5G通訊領域。高效能和低功耗的視訊處理晶片將成為這些應用領域的關鍵元件。

更多新的“PU”正在路上

一家成立於2018年的以色列的新創晶片企業NeuroBlade，開發了一種專用處理器架構，他們稱之為是SPU（SQL處理單元）。該公司的目標是成為「數據分析領域的Nvidia」。SPU主要是用來加速SQL指令處理，該公司CEO表示，透過使用專門設計的處理器加速SQL處理，可以實現端對端SQL分析加速。在部署方面，該晶片透過主機伺服器的PCIe匯流排插入，能夠透明地接管SQL相關處理，而無需修改主機應用程式軟體。

SPU支援常見的列式檔案格式。當一個查詢請求從查詢引擎發送時（也就是從資料庫管理系統發出查詢請求），SPU可以直接存取和處理儲存在本機儲存裝置上的資料檔案。處理完資料檔案後，SPU會將處理結果以原生查詢引擎佈局的形式傳回查詢引擎。

NeuroBlade公司正在與多家大型超大規模供應商進行談判，並已與一家公司贏得了數千張SPU卡的合約。如NeuroBlade也與戴爾公司合作，在PowerEdge伺服器分銷SPU卡產品。據他們稱，超大規模企業使用這一SQL處理單元(SPU) 來卸載運行分析工作負載的x86 CPU，可以獲得100倍或更多的工作加速，每年可以節省數百萬美元。在NeuroBlade的客戶中，還有儲存類客戶，鎧俠已經在其CM7系列企業NVMe SSD中成功配置了其NeuroBlade硬體增強型查詢系統(HEQS)，據他們稱，可以使客戶能夠充分發揮高性能SSD吞吐量的潛力，從而將查詢效能提高高達100倍。

結論

一款「全能」型的CPU似乎已經無法滿足所有的運算需求。隨著運算需求的多樣化和技術的發展，多種PU的出現，如GPU、DPU、SPU和VPU，正是對此趨勢的回應。它們從各自擅長的領域，優化特定的運算任務，為CPU“分憂解難”，提高整體的運算效率和效能。

雖然多種PU的出現已經開始瓜分CPU的任務，但CPU仍然是運算的中心。不過，多種PU的融合和發展無疑會進一步推動運算技術的不斷進步和最佳化，幫助實現更有效率，更快速的運算，滿足日益增長的數據和運算需求。

在未來，我們可以期待更多種類的處理器出現，它們將更加專業和高效地處理各種不同類型的運算任務，為各個行業和領域帶來更大的便利和推動力。（半導體產業觀察）