2023年 Super Computing亮點 - 高通推出首款可程式化AI加速器Cloud AI 100 Ultra,較前代效能提升4倍

大致整理了一下Cloud AI 100 Ultra跟前代的規格差異

最明顯大概是在AI核心數增加四倍、運算能力提升兩倍及大型語言模型參數(LLM)可執行1,000億個,

具觀察,Cloud AI 100 Ultra相較前一代產品Cloud AI 100效能提升4倍,在想會不會跟核心數有關,

同時可藉由Qualcomm AI Stack(多人共用的AI 運算平台)和Cloud AI SDK(語言專屬的Cloud 用戶端程式庫)的串聯,

來擴大Qualcomm Cloud AI 100 Ultra推論能力。


個人連結

https://www.instagram.com/rockchen_googlearn/