劍指輝達CUDA護城河:亞馬遜推出開源工具TorchNeuron

美股艾大叔
•
①亞馬遜推出免費開源工具TorchNeuron,開發者僅需修改一項配置,即可將PyTorch代碼從輝達晶片遷移至亞馬遜自研Trainium晶片;
②該工具瞄準輝達依託CUDA構築的軟件優勢;
③亞馬遜稱已有超30家早期客戶使用該工具,轉用其晶片可大幅節省成本。

軟件生態正成為AI晶片競爭的關鍵戰場。亞馬遜當地時間19日推出開源工具TorchNeuron,旨在降低開發者從輝達晶片轉向其自研晶片的門檻,挑戰輝達依託CUDA構築的軟件壁壘。

據媒體當地時間10月19日報導,亞馬遜正推出一款名為TorchNeuron的新工具,讓開發者用PyTorch編寫的AI代碼無需重寫,即可在亞馬遜自研AI晶片上運行。

PyTorch是由社交媒體巨頭Meta主導維護的開源AI編程框架,被大多數AI開發者使用,相當於AI開發領域的「通用語言」。

目前,輝達在AI晶片市場佔據主導地位,大量PyTorch代碼運行在其晶片上。

據亞馬遜旗下晶片設計部門Annapurna Labs介紹,藉助TorchNeuron,開發者只需修改一項配置,就能讓同一份代碼直接在亞馬遜自研的Trainium晶片上運行。

據報導,亞馬遜已於當地時間19日宣佈推出該工具,並計劃於20日在加州聖何塞舉行的PyTorch大會上以免費開源的形式公開發布。

撬動CUDA壁壘

媒體報導指出,亞馬遜這一工具瞄準的,正是輝達的核心優勢。輝達花費十餘年時間打磨名為CUDA的軟件工具,讓PyTorch代碼能在其晶片上高效運行。

這套軟件優勢,是輝達在AI算力市場佔據主導地位的重要支撐。開發者若想換用其他廠商的晶片,往往需要額外的代碼適配工作,遷移成本較高。

亞馬遜旗下晶片設計部門Annapurna Labs軟件副總裁Colin Brace在接受媒體採訪時表示,推出TorchNeuron旨在減少AI開發者試用亞馬遜自研晶片所需的步驟。

Brace指出:「我們要做的,是從客戶現有的工作方式出發。」

他還透露,目前已有超過30家早期客戶在使用這款新軟件,覆蓋機器人、世界模型(模擬物理世界運行規律的AI模型)和語音AI等領域。他表示,轉用亞馬遜晶片可為客戶帶來大幅成本節約。 (財聯社)