我們探討 AI 為何能迎來“寒武紀大爆發”時,往往會將功勞歸結於半導體工藝的極致微縮——彷彿只要台積電造出了 3nm 晶片,算力就會自然湧現。
然而,NVIDIA 首席科學家Bill Dally用一組嚴謹的資料打破了這一固有認知:在過去12年GPU推理性能提升的5000倍中,工藝製程的貢獻其實微乎其微——僅有不到3倍。當物理定律不再提供“免費的午餐”,剩下性能增長究竟源自何處?
下面是筆者學習了Bill Dally的講座後,主要整理了這一部分,並做了一個通俗易懂的解讀如下:
(AI未來課代表)