3月1日，DeepSeek官方發佈《DeepSeek-V3/R1 推理系統概覽》技術文章，首次公佈模型推理系統最佳化細節，並披露成本利潤率關鍵資訊。資料顯示，DeepSeek-V3/R1推理系統理論日利潤高達346萬元人民幣（47.5萬美元）。這一驚人數字引發人們對於AI模型服務商業化的討論。

據悉，DeepSeek統計了2月27日24點到2月28日24 點期間，DeepSeek V3和R1推理服務佔用節點總和，峰值佔用為278個節點，平均佔用226.75個節點（每個節點為8個H800 GPU）。假定GPU租賃成本為2美元/小時，DeepSeek每日總成本為8.7萬美元（折合人民幣約63萬元）。

如果所有tokens全部按照DeepSeek R1的定價計算，理論上一天的總收入為56.2 萬美元（折合人民幣約409萬元），成本利潤率高達545%。這意味著，理論上，DeepSeek每日淨賺47.5萬美元，約合人民幣346萬元。

對於上述理論利潤數字，DeepSeek回應稱，實際上並沒有這麼多收入，因為V3的定價更低，同時收費服務只佔了一部分，面向使用者的網頁端和應用程式免費，另外夜間還會有折扣，導致實際收入遠不及理論數值。

有關盈利話題，DeepSeek創始人梁文鋒曾公開表示，“我們的原則是不貼錢，也不賺取暴利。這個價格也是在成本之上稍微有點利潤。”彼時DeepSeek降低了API價格，引發了行業一輪價格戰。

AI模型的盈利能力已成為當下科技投資者最關心的話題。從美國AI公司OpenAI到Anthropic，各家業者都在嘗試各種收入模式。但投資者對這些商業模式及投資回報率提出質疑，在短期內實現盈利的可行性受到關注。

就在DeepSeek發佈技術文章的前一日凌晨，OpenAI以直播形式發佈了備受矚目的GPT-4.5大模型預覽版。這是一款號稱“情商最高”的通用大語言模型，然而，其高達每100萬tokens輸入75美元的API呼叫價格，相比GPT-4o的2.5美元暴漲了30倍。高昂的成本使得眾多開發者和企業望而卻步。

根據測算，相比DeepSeek的正常價格，GPT-4.5輸入價格達到了驚人的280倍；若以DeepSeek發佈的API淡季折扣價進行計算，GPT-4.5的輸入價格更是驚人地達到了DeepSeek的1000多倍。這一對比無疑讓DeepSeek在價格競爭上佔據了顯著優勢。

有業內分析指出，DeepSeek的開源策略與成本控制能力正在打破AI領域的資源壟斷。DeepSeek此次“透明化”披露，不僅展示了其技術實力與商業潛力，更向行業傳遞明確訊號：AI大模型的盈利閉環已從理想照進現實，標誌著AI技術從實驗室邁向產業化的關鍵轉折。

中信證券認為，Deepseek在模型訓練成本降低方面的最佳實踐，料將刺激科技巨頭採用更為經濟的方式加速前沿模型的探索和研究，同時將使得大量AI應用得以解鎖和落地。演算法訓練帶來的規模報酬遞增效應以及單位算力成本降低對應的傑文斯悖論等，均意味著中短期維度科技巨頭繼續在AI算力領域進行持續、規模投入仍將是高確定性事件。 (i商周)

【新智元導讀】DeepSeek公開推理系統架構，成本利潤率可達545%！明天還有更大驚喜嗎？

就在剛剛，當大家以為開源周已經結束的時候，真「Open AI」DeepSeek帶來了壓軸大戲——DeepSeek-V3/R1推理系統，全面揭秘！

跨節點高效平行（EP）驅動的批處理擴展

每個H800節點每秒處理73,700/14,800輸入/輸出token

DeepSeek表示，希望本周分享的技術見解能為開源社區帶來價值，共同推進通用人工智慧的發展目標。

所以，基本免費的DeepSeek成本利潤率高達545%，而堪稱世界最貴的OpenAI卻在虧損？

簡單來說，DeepSeek-V3/R1推理服務的最佳化目標是：提高吞吐量和降低延遲。

為了實現這兩個目標，團隊採用了跨節點專家平行（Expert Parallelism，EP）技術。

首先，EP顯著擴大了批處理規模，提高了GPU矩陣計算效率，從而提升吞吐量。

其次，EP將專家模組分佈在不同GPU上，每個GPU僅處理少量專家模組（減少記憶體訪問需求），從而降低延遲。

然而，EP也增加了系統複雜度，主要體現在兩個方面：

EP引入了跨節點通訊。為了最佳化吞吐量，需要設計合理的計算工作流，使通訊過程與計算過程能夠平行進行。

EP涉及多個節點，因此必然需要資料平行（Data Parallelism，DP），並要求在不同DP實例之間進行負載平衡。

為此，DeepSeek通過以下方式應對這些挑戰：

將通訊延遲與計算過程重疊處理

DeepSeek-V3/R1中包含大量專家模組：每層256個專家中僅啟動8個，所以模型的高稀疏性特點要求採用極大的整體批處理規模。

這樣才能確保每個專家模組獲得足夠的批處理量，從而實現更高的吞吐量和更低的延遲。因此，大規模跨節點EP技術成為必不可少的選擇。

DeepSeek採用了預填充-解碼解耦架構（prefill-decode disaggregation architecture），在預填充和解碼階段分別採用不同程度的平行策略：

預填充階段「路由專家EP32，MLA/共享專家DP32」：每個部署單元跨越4個節點，組態32個冗餘路由專家，每個GPU負責處理9個路由專家和1個共享專家。

解碼階段「路由專家EP144，MLA/共享專家DP144」：每個部署單元跨越18個節點，組態32個冗餘路由專家，每個GPU管理2個路由專家和1個共享專家。

大規模跨節點EP技術引入了顯著的通訊開銷。

為了緩解這一問題，採用dual-batch重疊策略，將同一批請求分割為兩個microbatch，以隱藏通訊成本並提高整體吞吐量。

在預填充階段，兩個microbatch交替執行，一個microbatch的通訊開銷被另一個microbatch的計算過程所掩蓋。

在解碼階段，各執行階段的時長存在不平衡現象。

為此，需要將注意力層細分為兩個步驟，並採用五階段流水線（5-stage pipeline）技術，實現計算與通訊的無縫重疊。

大規模平行（包括資料平行DP和專家平行EP）帶來了一個關鍵挑戰：如果單個GPU在計算或通訊方面過載，它將成為整個系統的性能瓶頸，導致系統速度下降，同時造成其他GPU資源閒置。

為了最大限度地提高資源利用率，DeepSeek的目標是在所有GPU上實現計算和通訊負載的平衡。

關鍵問題：不同資料平行實例之間的請求數量和序列長度差異導致核心注意力計算和分發傳送負載不平衡。

平衡各GPU之間的核心注意力計算（核心注意力計算負載平衡）；

均衡每個GPU處理的輸入token數量（分發傳送負載平衡），避免特定GPU出現處理延遲。

關鍵問題：資料平行實例之間請求數量和序列長度不均導致核心注意力計算（與KV快取使用相關）和分發傳送負載的差異。

平衡各GPU之間的KV快取（KVCache）使用（核心注意力計算負載平衡）；

均衡每個GPU的請求處理數量（分發傳送負載平衡）。

關鍵問題：在混合專家模型（Mixture of Experts，MoE）中，存在天然的高負載專家，導致不同GPU上的專家計算工作負載不平衡。

平衡每個GPU上的專家計算工作量（即最小化所有GPU中的最大分發接收負載）。

所有DeepSeek-V3/R1推理服務均在H800 GPU上運行，精度與訓練保持一致。

具體而言，矩陣乘法和分發傳輸採用與訓練一致的FP8格式，而核心MLA計算和組合傳輸使用BF16格式，確保最佳的服務性能。

此外，由於白天服務負載高而夜間負載低，團隊採取了一種創新的機制：

在白天高峰時段，所有節點都部署推理服務；

在夜間低負載時段，減少推理節點並將資源分配給研究和訓練。

在過去24小時內（02月27日中午12:00至02月28日中午12:00），V3和R1推理服務的合計峰值節點佔用達到278個，平均佔用226.75個節點（每個節點包含8個H800 GPU）。

假設租賃一個H800 GPU的成本為每小時2美元，每日總成本為87,072美元。

總輸入token：6080億，其中3420億token（56.3%）命中磁碟上的KV快取。

總輸出token：1680億。平均輸出速度為每秒20-22個token，每個輸出token的平均KV快取長度為4,989個token。

每個H800節點在預填充階段提供平均約7.37萬token/秒的輸入吞吐量（包括快取命中），或在解碼階段提供約1.48萬token/秒的輸出吞吐量。

上述統計封包括來自網頁、APP和API的所有使用者請求。

如果所有token都按照下列DeepSeek-R1的定價計費，每日總收入將達到562,027美元，利潤率為545%。

R1定價：輸入token（快取命中）每百萬0.14美元，輸入token（快取未命中）每百萬0.55美元，輸出token每百萬2.19美元。

然而，實際收入大幅低於此數字，原因如下：

只有部分服務實現了商業化（網頁和APP訪問仍然免費）

在非高峰時段自動應用夜間折扣

當人們認為DeepSeek 開源周已經結束，剛剛DeepSeek 又掏出了One More Thing ，首次披露了其模型推理系統的成本利潤率：545%，這一驚人數字背後是一系列精心設計的技術最佳化。

DeepSeek 在保證服務品質的同時，實現了極高的成本效益：

硬體組態：所有服務使用H800 GPU，維持與訓練一致的FP8/BF16精度

動態資源調度：根據白天/夜間負荷差異動態調整節點數量，最大化資源利用率

成本資料：24 小時內平均使用226.75 個節點（每節點8個H800），成本約$87,072/天

吞吐能力：每台H800的prefill 吞吐約73.7k tokens/s，decode 吞吐約14.8k tokens/s

利潤率：以DeepSeek R1 定價計算，理論日收入$562,027，成本利潤率545%

DeepSeek-V3/R1 推理系統面臨兩大挑戰：如何提高吞吐量和如何降低延遲。

他們採用了大規模跨節點專家平行（Expert Parallelism/EP）技術。

DeepSeek-V3/R1 採用了MoE（混合專家）架構，每層有256 個專家，但每個token 只啟動其中8 個。這種高度稀疏的結構需要透過專家平行來提高效率：

專家平行就像是把不同特長的廚師分散到多個廚房（GPU）：

1. 提高吞吐量：就像餐廳一次接待更多顧客（增大batch size）。當廚房裡同時處理許多訂單時，廚師們可以更有效率地工作，不會有空閒時間，爐灶和切菜台都能充分利用。

2. 降低延遲：每個廚房只需要專注幾種特色菜（每個GPU只計算少量專家），廚師不需要來回切換不同菜系，也不用頻繁更換工具和食材，做飯速度自然更快。

DeepSeek 針對不同場景採用了不同的平行策略：

準備階段（Prefill）：類似於餐前準備，需要4 個分店協作，每個廚房有9+1 位廚師

出餐階段（Decode）：類似快速出餐，需要18 個分店協作，每個廚房有2+1位廚師

為了提高效率DeepSeek 還採用了雙批次重疊處理負載平衡策略

雙批次重疊處理：就像廚師一邊炒著這桌的菜，一邊準備下一桌的食材。當一批訂單在烹飪時，另一批訂單的食材可以同時在配送中，這樣廚房永遠不會空閒。

確保每個廚房處理的訂單數量和複雜度相近

合理分配熱門菜色的廚師數量，避免某些特色菜（熱門專家）導致部分廚房超負荷

動態調整各分店的顧客分配，使得所有廚師的工作量和食材配送量儘可能平衡

正因為這些技術最佳化，DeepSeek 即使在硬體受限的情況下，也能實現出色的推理性能。

卡住它的地方，反而變成了它的創新。

https://mp.weixin.qq.com/s/dEEfMQgDK7y17yVjh6zblA

過去一周，DeepSeek 上演了「開源五連擊」。

覆蓋計算、通訊、儲存、演算法與模型的協同創新，中國AI 力量正在用開源精神，把曾經需要天價算力的技術，變得人人可用。 （APPSO）

#成本利潤率 你可以在這裡找到鉅亨號中所有使用「成本利潤率」為關鍵字所發布的內容