7 月 16 日晚,月之暗面上線 Kimi K3,2.8 兆參數,MoE 架構,原生支援視覺理解和 100 萬 token 上下文。K3的MoE共有896個專家,每個token啟動其中16個,並引入KDA、Attention Residuals和Stable LatentMoE。官方稱,這些改動讓其相較K2的整體擴展效率提高約2.5倍。
它號稱“迄今能力最強的旗艦模型”,完整權重發佈後(計畫 7 月 27 日前),K3 有望成為參數量最大的公開權重模型。Benchmark方面,K3官方稱其整體表現仍落後於Claude Fable 5和GPT-5.6 Sol,但在整套評測中達到了前沿水平,並穩定超過其他受測模型。
正式上線之前,demo 已經刷了兩天屏。Arena 上代號“Kivine”的匿名模型被社區認定來自 Moonshot,一句提示詞生成的 Minecraft 克隆和《殺戮尖塔》可以直接打開遊玩,Flappy Bird 對比視訊宣稱 K3“明顯優於”Opus 4.8。
此外官方還展示了一個晶片設計的案例。K3 連續自主運行 48 小時,基於開源 EDA 工具和 Nangate 45nm 工藝庫,為一個基於自身架構的 nano 模型完成晶片設計、最佳化與驗證,最終實現時序收斂和超過每秒 8700 token 的模擬解碼吞吐。