推理計算成為突破口，性價比優勢是關鍵。

輝達在AI晶片市場的壟斷地位，正面臨前所未有的挑戰。

AMD、亞馬遜等科技巨頭，以及SambaNova Systems、Groq等初創公司紛紛瞄準大模型推理側發力，推出各類定製晶片，在可靠性和成本端不斷進步。

這些新玩家不僅帶來了更具性價比的選擇，更贏得了重要客戶的認可。

例如，Meta已開始使用AMD的MI300晶片支援其新AI模型Llama 3.1 405B的推理計算；亞馬遜的Trainium 2晶片，得到了包括蘋果在內的潛在使用者的好評。

市場研究機構Omdia預計，2024年資料中心在非輝達晶片上的支出將增長49%，達到1260億美元。

似乎，市場格局的變化已經開始，AI晶片領域的競爭正在進入一個更加多元化的競爭新階段。

01

科技巨頭紛紛入局，推理計算成為突破口

AMD的MI300晶片在發佈首年，就預計創造超50億美元的銷售額。與此同時，亞馬遜在奧斯汀北部研發了新一代AI晶片Trainium。

除了傳統科技巨頭，SambaNova Systems、Groq和Cerebras Systems等初創公司也在積極佈局。這些公司聲稱在推理方面能夠提供比輝達更快的速度、更低的工行和更便宜的價格。

而"推理"階段，正成為競爭對手突破輝達壟斷的關鍵。

"真正的商業價值來自於推理，而推理正在開始規模化，"高通 CEO Cristiano Amon表示。Amon稱，高通計畫使用亞馬遜的新晶片執行 AI 任務，“我們開始看到變革的開始”。

在成本方面，輝達現有晶片售價高達1.5萬美元，其新款Blackwell晶片預計將達到數萬美元。

相比之下，競爭對手提供了更具性價比的選擇。德克薩斯高級計算中心執行主任Dan Stanzione表示，由於功耗和價格優勢，該中心計畫在使用輝達Blackwell超級電腦的同時，採用SambaNova的晶片進行推理任務，因為它們的功耗和價格較低。

02

亞馬遜展現雄心

亞馬遜在AI晶片領域表現出強烈的進取心，今年已投入750億美元用於AI晶片等計算硬體。其新款Trainium 2晶片的性能是前代產品的4倍，並已宣佈更強大的Trainium 3晶片計畫。

舊金山AI初創公司Poolside的CTO Eiso Kant估計，相比輝達的硬體，Trainium 2在每美元計算性能上提升了40%。更重要的是，亞馬遜計畫在全球資料中心提供基於Trainium的服務，這對推理任務尤為重要。

值得注意的是，亞馬遜還與AI初創公司Anthropic達成合作，將建造一個包含數十萬枚新Trainium晶片的巨型AI工廠，其計算能力將是Anthropic此前使用過的任何系統的5倍。

儘管如此，競爭加劇並不意味著 Nvidia 短期就會失去領先地位。輝達CEO黃仁勳仍然強調，公司在AI軟體和推理能力方面具有重大優勢，新款Blackwell晶片的需求依然強勁。

在斯坦福大學的一次演講中，黃仁勳表示：

“我們產品的總擁有成本非常划算，即使競爭對手的晶片是免費的，它們也不夠便宜。” (硬AI)