•
五種AI晶片介紹，what is AI Chip？
人工智慧的大語言模型存在數十億到兆次平行的數學負載，需要高記憶體頻寬和低延遲，傳統 CPU 難以高效支撐。因此，AI專用的CPU、GPU、NPU、TPU、DPU應運而生，它們各有側重、各司其職，共同構成異構AI系統，保障 AI 任務高效運行。
CPU No.1
是什麼？
Central Processing Unit，中央處理器，是通用計算核心，電腦的 “大腦” ，用於AI領域主要是控制邏輯、傳統 ML、資料預處理、任務協調。
有什麼特點？
通用能力強，負責統籌所有任務，核心優勢是控制邏輯和任務協調，但不擅長AI heavy math。
誰在做？
Intel、AMD、Apple（M 系列）
GPU No.2
是什麼？
Graphics Processing Unit，圖形處理器，是用於AI領域主要負責大規模神經網路訓練、平行矩陣運算、深度學習負載。
有什麼特點？
平行計算能力突出，是現代 AI 訓練的核心動力，但存在高能耗、高成本的問題。
誰在做？
NVIDIA、AMD
NPU No.3
是什麼？
Neural Processing Unit， 神經網路處理器，是專用 AI 加速器，負責最佳化神經網路推理，用於擅長端側 AI 計算、移動端 / IoT 裝置推理、低功耗執行 AI 最佳化的矩陣和向量運算流水線。
有什麼特點？
主打低功耗、高效率，專門適配邊緣裝置（手機、IoT）的 AI 推理需求，讓端側 AI 快速運行。
誰在做？
Apple（Neural Engine）、Qualcomm（Hexagon DSP）、Huawei（Kirin NPU）
TPU No.4
是什麼？
Tensor Processing Unit，張量處理器，是Google定製晶片，主要最佳化張量運算，用於規模 AI 訓練、雲端推理（側重 TensorFlow）。
有什麼特點？
深度最佳化張量運算，在超大規模 AI 場景（Google Cloud）中表現強勢，壟斷 hyperscale AI 領域。
誰在做？
DPU No.5
是什麼？
Data Processing Unit，資料處理器，是專注資料中心與網路任務的處理器，用於網路、儲存、資料移動、AI 基礎設施加速。
有什麼特點？
專注解除安裝資料相關和網路任務，解放 CPU/GPU 的算力，讓其集中處理核心 AI 計算。
誰在做？
NVIDIA（BlueField）、Intel、Fungible (銳芯聞)