當整個AI產業都在為輝達GPU和HBM高頻寬記憶體的組合支付高昂代價時，一家成立僅三年的以色列初創公司，提出了一個截然不同的思路。
2023年由前Google和Meta工程師創立的Majestic Labs，近日正式推出了名為Prometheus的AI伺服器。這家總部位於特拉維夫的公司直言不諱地指出，將昂貴的圖形處理器與高頻寬記憶體捆綁在一起，本質上已經成了一種受記憶體限制、沒有前途的AI推理路徑。
用便宜的LPDDR6替代昂貴的HBM
Prometheus伺服器的核心邏輯非常簡單直接：不再使用輝達GPU加HBM的方案，而是用自研的Ignite AI處理單元（AIU）取而代之。每個AIU將Arm核心與RISC-V向量和張量引擎相結合。一台Prometheus伺服器最多可容納12個AIU，共享一個8TB到128TB的統一連貫記憶體池，全部採用LPDDR6記憶體。
作為對比，一台搭載八塊Blackwell GPU的輝達DGX B300系統，僅提供2.3TB的HBM3e加上最多4TB的DDR5系統記憶體。Majestic Labs聲稱，其架構提供的“快速記憶體”容量是競爭對手配置的50倍以上，互連頻寬則是其1.7倍。
記憶體如何“連”起來：銅纜代替封裝直連
這套方案最有趣的技術細節在於記憶體的連接方式。Prometheus並非將記憶體直接貼在GPU封裝上，而是通過定製的記憶體聚合小晶片（memory aggregation chiplets），由最長可達1米的銅纜相互連接。一個標準的40U機架可容納四台Prometheus伺服器，總功耗120千瓦，採用冷板式液體冷卻而非風冷。
Majestic Labs提出了一個極具衝擊力的對比：“一個Majestic機架所容納的快速記憶體容量，相當於25個輝達NVL72 Vera Rubin機架，而功耗僅為後者的零頭。”公司進一步表示，“每個處理器可擁有高達1000倍以上的記憶體”。
成本優勢：10到50倍的價格差距
如果這些性能資料能夠兌現，成本優勢將更加驚人。Majestic Labs表示，Prometheus伺服器預計明年發貨時，同等性能下的成本可能僅為GPU系統的十分之一到五十分之一，每機架的電耗也更低。
在軟體生態方面，Prometheus伺服器符合OCP（開放計算項目）標準，將支援PyTorch、vLLM和OpenAI的Triton框架，這意味著現有AI模型無需修改即可運行。
公司首席執行長Ofer Shacham、總裁Sha Rabii和首席營運官Masumi Reynders領導著這支約40人的團隊，分佈在特拉維夫和洛杉磯兩地。2025年底，公司完成了1億美元的A輪融資，並聲稱已收到來自大型企業、新型雲服務商和超大規模資料中心的重大訂單。
挑戰：64000顆記憶體晶片的工程難題
當然，這套方案也面臨不小的工程挑戰。文章指出，如果128TB配置使用的是市面上常見的2GB LPDDR6顆粒，那麼單台伺服器就需要大約64,000顆這樣的晶片，這意味著需要超過一百個記憶體聚合小晶片。
Majestic Labs公佈的資料確實令人震撼，但在任何獨立基準測試或硬體正式出貨之前，這些仍然只是公司自己的預測。對於那些考慮從老牌GPU廠商轉向新方案的企業買家來說，可能還需要等待獨立驗證來證實這些說法。
結語
在AI算力成本居高不下、記憶體頻寬成為推理性能瓶頸的今天，Majestic Labs提供了一條值得關注的差異化路徑——用大規模、低成本的記憶體池替代超高頻寬但價格昂貴的HBM，用Arm和RISC-V的異構計算替代通用GPU。
這條路能否走通，明年硬體出貨時將迎來第一次真正的檢驗。但至少，它證明了“挑戰輝達”這件事，還有更多想像力可言。 (觀芯IC)