史上最快的語言模型來了?!

一家新創業公司 Inception Labs 發佈了 Mercury Coder,第一個商業規模的擴散大型語言模型(diffusion language models) 它比當前的 LLM 速度更快5-10x ,並且以低成本提供高品質的響應。

Inception AI Labs是一家新公司,由擴散語言模型領域的頂尖研究人員創立



其性能類似於小前沿模型,同時在 H100 上實現約 1000 個 token/秒的吞吐量...! (AI替代人類)