DeepSeek開源了一種新的推理最佳化方法DSpark，附帶一篇極其詳細的論文、草稿模型以及訓練它們的框架DeepSpec。在 dsv4 生產環境中的結果顯示，吞吐量和延遲提高了 +50%（延遲甚至可以達到 ~80%，太瘋狂了） DeepSpec是一個用於訓練和評估推測解碼草稿模型的完整程式碼庫，包含資料準備、草稿模型實現、訓練程式碼和評估指令碼，目前支援 DSpark、DFlash 和 Eagle3 三種演算法。 paper： https://github.com/deepseek-ai/DeepSpec/blob/main/DSpark_paper.pdf