推廣活動

AI用3天啃下AMD晶片,輝達CUDA牆要塌了?

美股艾大叔
•
AI速讀
Anthropic 在 IPO 路演中披露 AI 模型可在 3 天內完成 AMD GPU 適配,試圖證明其能擺脫輝達 CUDA 的綁定。雖被指僅限於簡單的 prefill 階段且缺乏數據支持,但此舉揭示了 AI 巨頭試圖透過自動化重寫 kernel 來瓦解輝達軟體壁壘的趨勢。市場關注焦點已從路演幻燈片轉向 2027 年 Helios 叢集投產後的實際效能表現。

Anthropic在11月10日發佈的IPO路演視訊中披露:其最新AI模型Claude Mythos Preview僅用約3天時間,就讓另一個Anthropic模型跑上了AMD MI355X GPU,且"基本沒有人工干預";而按傳統工程方式,為一款新晶片平台完成適配通常需要6至12個月、動用數十名工程師。路演幻燈片上,代表Mythos的曲線在"3天"處陡然衝到100%,傳統方式的曲線則要爬升6至12個月——這張對比圖迅速在科技圈刷屏。

"3天"到底完成了什麼?

要理解這個數字的份量,得先知道"適配新晶片"意味著什麼。AI模型不會自己跑起來:矩陣乘法、注意力機制、記憶體管理、顯示卡間資料交換的kernel(在GPU上執行計算的小程序)都要從輝達CUDA生態重寫為AMD的ROCm軟體棧,再逐塊顯示卡調優——一位資深工程師在單個kernel上就要花幾天,而前沿模型動輒用到數百個。據路演中的說法,Mythos移植或重寫了接近100%的kernel。

AMD Instinct™ MI355X GPU(來源:AMD)

但核查媒體Pasquale Pillitteri對幻燈片註腳的拆解,給這個"3天"畫出了明確的邊界:

·只覆蓋預填充(prefill)階段:註腳寫明,3天是"在MI355X GPU上將某個Anthropic模型的提示詞處理(prefill)提升到可用性能的大致時間"。prefill是整個移植中最容易的部分——一次性讀完整個提示詞、大量平行矩陣乘法,恰是GPU最容易吃滿的負載;逐token生成的解碼(decode)階段取決於記憶體頻寬,才是真正決定成本與速度的部分,而註腳隻字未提。訓練和生產環境的部署同樣不在其列。

·"可用性能"沒有定義:Anthropic和AMD均未公佈包含ROCm版本和每秒token數的技術說明,所謂"達到有用性能"沒有具體數字支撐,目前也沒有獨立第三方測試復現過這一結果。

·6至12個月是內部估算:該數字來自公司以往引入新加速器的經驗,並非同等條件下的對照實驗;且聯合創始人、首席算力官Tom Brown在7月AMD Advancing AI主題演講中曾講過另一個版本——一名工程師在一個MI355X機架上啟動工作,系統整個周末持續運行,周一就跑得很好,全程沒有用到AMD支援——兩段敘述並未被表述為同一次實驗。

為什麼這件事仍然重要

即便註腳縮小了範圍,這張幻燈片出現在路演中的動機依然清晰。Anthropic在四類晶片上訓練和運行Claude——AWS Trainium、Google TPU、輝達GPU和AMD GPU——每一類都需要自己的軟體棧,建設成本高、難度大;向投資者證明"不被單一供應商繫結",正是招股書中的關鍵論點。

而輝達的護城河恰恰建立在軟體側:CUDA背後有龐大的開發者生態、函數庫和多年最佳化積累,公司還通過向大學免費提供GPU與培訓、將通訊庫NCCL與NVLink/InfiniBand專有硬體深度繫結來抬高遷移成本。

如果AI智能體真能把kernel重寫周期從數月壓縮到數天,"換晶片供應商的成本"這個命門就被擊中了。

“輝達的 CUDA 護城河已經不復存在”,矽谷投資人 Marcelo P. Lima 在 X 上直言不諱。

不是新故事,而是新敘事

事實上,雙方的合作遠早於此:7月22日,AMD與Anthropic宣佈協議,將在Helios機架級系統中部署最高2GW的Instinct MI450系列GPU,首個吉瓦計畫2027年上半年到位,AMD另對Anthropic最高投資50億美元;公告還提到Anthropic已在用MI355X,雙方將開展多年期合作,由Claude為AMD GPU最佳化工作負載並加速ROCm開發。

換言之,路演上的"3天"更像是對既有合作的敘事升級——真正的試金石在2027年上半年:屆時首個吉瓦的Helios要實打實為Claude提供服務,而不是只在一個機架上跑通prefill。

"3天適配AMD"是一張效果拔群的幻燈片,但按照目前的證據,它還只能被讀作一份商業表態,而非一次測量。客戶真正關心的數字從來只有一個——每花一美元能得到多少token每秒——而這個數字,要到Helios叢集真正點亮的那一天才會揭曉。CUDA的城牆或許真的出現了裂縫,但判斷裂縫有多深,我們需要的不是路演視訊,而是生產環境的benchmark。(電子工程專輯)