過去三年,大家都在爭相搶購GPU。
輝達的股價在三年內飆升了15倍。H100顯示卡一機難求。HBM視訊記憶體供需失衡,美光和SK海力士的股價也因資本湧入而一路飆升。所有人都將整個人工智慧革命的成敗歸功於一個詞:計算。
但你可能忽略了一點——無論單個 GB300 GPU 的性能有多強大,如果它不能與成千上萬的其他 GPU 高速通訊,那麼大部分計算能力都會被浪費掉。
不妨這樣想。把人工智慧訓練叢集想像成一棟大樓,成千上萬的人在這裡一起工作。GPU 就是員工。HBM 就是每張桌子上的記事本。雲端儲存就是公司檔案庫。每個人都在爭論“我們應該招多少員工”和“記事本夠不夠大”,但卻沒有人問一個問題:樓梯和走廊夠不夠寬敞?