新一輪 AI 熱潮下,算力即國力,也是目前 AI 領域重要的成本投入之一。
據鈦媒體AGI編輯計算和整理,2023年,全球 AI 晶片市場規模大約為536億美元。Gartner預測,到2027年,全球AI晶片營收將是2023年市場規模的兩倍以上,達到1194億美元。
今晨Semi Analysis發表的一篇文章稱,目前,全球爭相建立10萬個輝達H100 GPU晶片組成的算力叢集,成本超過40億美元(約合290億元人民幣)。其中,僅GPT-4,在約20000個A100上訓練了90到100天,而如果一個 10萬個 H100 叢集,使用 FP8 訓練 GPT-4 隻需四天時間,換算的成本超過8億美金。
那麼,算力到底被誰卡住了“脖子”?如何最佳化算力成本?本文轉載半導體行業觀察,編譯自semianalysis,詳細闡述 AI 算力成本的部署情況。