根據不完全統計,目前半導體產業已開發出約1000 種封裝類型,按互連類型來劃分,其中包括了引線鍵合、倒裝晶片、晶圓級封裝(WLP) 和矽通孔(TSV)等,無數個die透過連網裝置相連接,構成瞭如今日漸繁盛的封裝市場。
其中的先進封裝,成為了近兩年最受關注和歡迎的領域,先進過程進展越緩慢,它的重要性就愈發突出, AMD、英特爾和英偉達這傳統的「禦三家」紛紛涉足,從2D封裝轉戰2.5D封裝,也向3D封裝這座高峰發起了挑戰。
2023年6月,AMD在舊金山正式推出了MI300X與MI300A兩款AI加速器, 其中MI300X 採用了8 XCD,4個IO die,8個HBM3堆棧,高達256MB的AMD Infinity Cache和3.5D封裝的設計,支援FP8 和稀疏性等新數學格式,是一款全部面向AI 和HPC 工作負載的設計,而它的電晶體也達到了1530 億顆,成為了AMD 迄今為止製造的最大晶片。
AMD表示,MI300X 在人工智慧推理工作負載中的性能比英偉達(輝達)H100高出1.6倍,在訓練工作中的性能與H100相當,從而為業界提供了亟需的高性能替代品,以取代英偉達的GPU。此外,這些加速器的HBM3 記憶體容量也是英偉達GPU 的兩倍多,達到驚人的192 GB,使其MI300X 平台能夠支援每個系統兩倍多的LLM,並能運行比H100 HGX 更大的模型。