昨天DeepSeek在知乎發佈《DeepSeek-V3/R1推理系統概覽》一文，首次公開其模型推理系統的核心技術細節及商業化資料。

其中，核心表達的意思是：理論成本利潤率高達545%。

根據DeepSeek披露的資料，其V3/R1推理系統在24小時營運中，總成本為8.7萬美元/天（約合人民幣63萬元），若所有服務按最高定價（R1模型）計算，理論日收入可達56.2萬美元（約合人民幣409萬元），成本利潤率高達545%，理論日淨賺約346萬元人民幣。

當然，實際收入因定價分層和免費服務而低於理論值，但你感受下未來的潛力。

還有，營運成本這麼低，肯定是技術做了巨大的最佳化。

從目前的資料看，DeepSeek的高效盈利模式對AI行業都有很大衝擊。

API定價僅為OpenAI GPT-4的3%-5%（如R1輸出價格為16元/百萬tokens，而GPT-4.5高達75美元/百萬tokens）。這種低價策略可能倒逼全球大模型廠商最佳化成本結構。

不知道這麼演化下去，OpenAI會有多大壓力。

還有就是，DeepSeek還加速AI基礎設施變革。通過開源適配低端GPU的軟體工具，DeepSeek削弱了輝達CUDA生態的壟斷性（這也是為什麼前段時間海外媒體對輝達有擔心的重要原因），甚至可能推動國產晶片（如華為昇騰）的替代處理程序。

還有個小插曲。潞晨科技CEO尤洋指出，DeepSeek-R1滿血版每百萬token輸出定價為16元，若企業每日輸出1000億token，理論月收入為4800萬元。但實現該輸出量需約4000台搭載NVIDIA H800晶片的伺服器，按當前硬體成本或折舊計算，每月僅機器成本就達4.5億元，導致企業每月虧損約4億元。

DeepSeek回覆以後，潞晨科技CEO尤洋刪除了質疑DeepSeek團隊的技術能力和資料真實性的言論，並致歉，承認“情緒衝動導致誤解”。

尤洋發文致歉，稱“本人昨天情緒太衝動，說了一些讓人誤解deepseek infrastructure團隊的話。deepseek infrastructure團隊技術一流並給開源社區做出巨大貢獻。本人誠摯道歉，已經刪除不當表述，感謝大家提醒！”。

我對DeepSeek的期待值還是挺高的。

周五我也提過，宇樹科技的機器人概念，炒作的效應比較大，但是AI絕不是炒作，這已經在實際應用中發揮了巨大的價值。未來幾年，AI會越來越強，對應用市場，對投資方向，對商業模式，都會有巨大的影響。

因此，我對中概互聯、恆生科技等相關的權重，比如阿里巴巴、騰訊控股的看法還是要繼續高看的。這一波行情還有的看。

國家統計局資料顯示，2月份，製造業採購經理指數（PMI）為50.2%，比上月上升1.1個百分點，製造業景氣水平明顯回升。從企業規模看，大型企業PMI為52.5%，比上月上升2.6個百分點，高於臨界點；中、小型企業PMI分別為49.2%和46.3%，比上月下降0.3和0.2個百分點，均低於臨界點。

這是個好消息。內循環看看25年會不會慢慢復甦。    (柳葉刀財經)

周末，DeepSeek又扔出“王炸”。

今天，國內AI大模型公司DeepSeek官方帳號在知乎首次發佈《DeepSeek-V3/R1推理系統概覽》技術文章，不僅公開了其推理系統的核心最佳化方案，更是首次披露了成本利潤率等關鍵資料，引發行業震動。

資料顯示，若按理論定價計算，其單日成本利潤率高達545%，這一數字刷新了全球AI大模型領域的盈利天花板。

業內分析指出，DeepSeek的開源策略與成本控制能力正在打破AI領域的資源壟斷。DeepSeek此次“透明化”披露，不僅展示了其技術實力與商業潛力，更向行業傳遞明確訊號：AI大模型的盈利閉環已從理想照進現實。

3月1日，DeepSeek於知乎開設官方帳號，發佈《DeepSeek-V3/R1推理系統概覽》技術文章，首次公佈模型推理系統最佳化細節，並披露成本利潤率關鍵資訊。

文章寫道：“DeepSeek-V3/ R1推理系統的最佳化目標是：更大的吞吐，更低的延遲。”

為實現這兩個目標，DeepSeek的方案是使用大規模跨節點專家平行（EP），但該方案也增加了系統複雜性。文章的主要內容就是關於如何使用EP增長批次大小（batch size）、隱藏傳輸耗時以及進行負載平衡。

值得注意的是，文章還率先披露了DeepSeek的理論成本和利潤率等關鍵資訊。

根據DeepSeek官方披露，DeepSeek V3和R1的所有服務均使用H800 GPU，使用和訓練一致的精度，即矩陣計算和dispatch 傳輸採用和訓練一致的FP8格式，core-attention計算和combine傳輸採用和訓練一致的BF16，最大程度保證了服務效果。

另外，由於白天的服務負荷高，晚上的服務負荷低，因此DeepSeek實現了一套機制，在白天負荷高的時候，用所有節點部署推理服務。晚上負荷低的時候，減少推理節點，以用來做研究和訓練。

在最近24小時（2025年2月27日12:00至28日12:00）的統計周期內：GPU租賃成本按2美元/小時計算，日均成本為87072美元；若所有輸入/輸出token按R1定價（輸入1元/百萬token、輸出16元/百萬token）計算，單日收入可達562027美元，成本利潤率高達545%。

不過，DeepSeek官方坦言，實際上沒有這麼多收入，因為V3的定價更低，同時收費服務只佔了一部分，另外夜間還會有折扣。

DeepSeek的高利潤率源於其創新的推理系統設計，核心包括大規模跨節點專家平行（EP）、計算通訊重疊與負載平衡最佳化三大技術支柱：專家平行（EP）提升吞吐與響應速度，針對模型稀疏性（每層僅啟動8/256個專家），採用EP策略擴展總體批處理規模（batch size），確保每個專家獲得足夠的計算負載，顯著提升GPU利用率；部署單元動態調整（如Prefill階段4節點、Decode階段18節點），平衡資源分配與任務需求。

計算與通訊重疊隱藏延遲，Prefill階段通過“雙batch交錯”實現計算與通訊平行，Decode階段拆分attention為多級流水線，最大限度掩蓋通訊開銷。

全域負載平衡避免資源浪費，針對不同平行模式（資料平行DP、專家平行EP）設計動態負載平衡器，確保各GPU的計算量、通訊量及KVCache佔用均衡，避免節點空轉。

簡單來說，EP就像是“多人協作”，把模型中的“專家”分散到多張GPU上進行計算，大幅提升Batch Size，榨乾GPU算力，同時專家分散，降低記憶體壓力，更快響應。

DeepSeek在工程層面進一步壓縮成本。晝夜資源調配：白天高峰時段全力支援推理服務，夜間閒置節點轉用於研發訓練，最大化硬體利用率；快取命中率達56.3%：通過KVCache硬碟快取減少重複計算，在輸入token中，有3420億個（56.3%）直接命中快取，大幅降低算力消耗。

有分析稱，DeepSeek此次披露的資料，不僅驗證了其技術路線的商業可行性，更為行業樹立了高效盈利的標竿：其模型訓練成本僅為同類產品的1%—5%，此前發佈的DeepSeek-V3模型訓練成本僅557.6萬美元，遠低於OpenAI等巨頭；推理定價優勢方面，DeepSeek-R1的API定價僅為OpenAI o3-mini的1/7至1/2，低成本策略加速市場滲透。

業內分析指出，DeepSeek的開源策略與成本控制能力正在打破AI領域的資源壟斷。DeepSeek此次“透明化”披露，不僅展示了其技術實力與商業潛力，更向行業傳遞明確訊號：AI大模型的盈利閉環已從理想照進現實，標誌著AI技術從實驗室邁向產業化的關鍵轉折。

中信證券認為，Deepseek在模型訓練成本降低方面的最佳實踐，料將刺激科技巨頭採用更為經濟的方式加速前沿模型的探索和研究，同時將使得大量AI應用得以解鎖和落地。演算法訓練帶來的規模報酬遞增效應以及單位算力成本降低對應的傑文斯悖論等，均意味著中短期維度科技巨頭繼續在AI算力領域進行持續、規模投入仍將是高確定性事件。

本周以來，DeepSeek開啟“開源周”，給人工智慧領域扔下數顆“重磅炸彈”。回顧DeepSeek這五天開放原始碼的內容，資訊量很大，具體來看：

周一，DeepSeek宣佈開源FlashMLA。FlashMLA是DeepSeek用於Hopper GPU的高效MLA解碼核心，並針對可變長度序列進行了最佳化，現已投入生產；

周二，DeepSeek宣佈開源DeepEP，即首個用於MoE模型訓練和推理的開源EP通訊庫，提供高吞吐量和低延遲的all-to-all GPU核心；

周三，DeepSeek宣佈開源DeepGEMM。其同時支援密集佈局和兩種MoE佈局，完全即時編譯，可為V3/R1模型的訓練和推理提供強大支援等；

周四，DeepSeek宣佈開源Optimized Parallelism Strategies。其主要針對大規模模型訓練中的效率問題；

周五，DeepSeek宣佈開源Fire-Flyer檔案系統（3FS），以及基於3FS的資料處理框架Smallpond。

因此，有網友評論稱：“今日發佈的《DeepSeek-V3/R1推理系統概覽》技術文章是‘開源周彩蛋’，直接亮出了底牌！”

至此，DeepSeek“開源周”的連載或許要告一段落了，但DeepSeek後續動作依然值得持續關注。 (券商中國))

【新智元導讀】DeepSeek公開推理系統架構，成本利潤率可達545%！明天還有更大驚喜嗎？

就在剛剛，當大家以為開源周已經結束的時候，真「Open AI」DeepSeek帶來了壓軸大戲——DeepSeek-V3/R1推理系統，全面揭秘！

跨節點高效平行（EP）驅動的批處理擴展

每個H800節點每秒處理73,700/14,800輸入/輸出token

DeepSeek表示，希望本周分享的技術見解能為開源社區帶來價值，共同推進通用人工智慧的發展目標。

所以，基本免費的DeepSeek成本利潤率高達545%，而堪稱世界最貴的OpenAI卻在虧損？

簡單來說，DeepSeek-V3/R1推理服務的最佳化目標是：提高吞吐量和降低延遲。

為了實現這兩個目標，團隊採用了跨節點專家平行（Expert Parallelism，EP）技術。

首先，EP顯著擴大了批處理規模，提高了GPU矩陣計算效率，從而提升吞吐量。

其次，EP將專家模組分佈在不同GPU上，每個GPU僅處理少量專家模組（減少記憶體訪問需求），從而降低延遲。

然而，EP也增加了系統複雜度，主要體現在兩個方面：

EP引入了跨節點通訊。為了最佳化吞吐量，需要設計合理的計算工作流，使通訊過程與計算過程能夠平行進行。

EP涉及多個節點，因此必然需要資料平行（Data Parallelism，DP），並要求在不同DP實例之間進行負載平衡。

為此，DeepSeek通過以下方式應對這些挑戰：

將通訊延遲與計算過程重疊處理

DeepSeek-V3/R1中包含大量專家模組：每層256個專家中僅啟動8個，所以模型的高稀疏性特點要求採用極大的整體批處理規模。

這樣才能確保每個專家模組獲得足夠的批處理量，從而實現更高的吞吐量和更低的延遲。因此，大規模跨節點EP技術成為必不可少的選擇。

DeepSeek採用了預填充-解碼解耦架構（prefill-decode disaggregation architecture），在預填充和解碼階段分別採用不同程度的平行策略：

預填充階段「路由專家EP32，MLA/共享專家DP32」：每個部署單元跨越4個節點，組態32個冗餘路由專家，每個GPU負責處理9個路由專家和1個共享專家。

解碼階段「路由專家EP144，MLA/共享專家DP144」：每個部署單元跨越18個節點，組態32個冗餘路由專家，每個GPU管理2個路由專家和1個共享專家。

大規模跨節點EP技術引入了顯著的通訊開銷。

為了緩解這一問題，採用dual-batch重疊策略，將同一批請求分割為兩個microbatch，以隱藏通訊成本並提高整體吞吐量。

在預填充階段，兩個microbatch交替執行，一個microbatch的通訊開銷被另一個microbatch的計算過程所掩蓋。

在解碼階段，各執行階段的時長存在不平衡現象。

為此，需要將注意力層細分為兩個步驟，並採用五階段流水線（5-stage pipeline）技術，實現計算與通訊的無縫重疊。

大規模平行（包括資料平行DP和專家平行EP）帶來了一個關鍵挑戰：如果單個GPU在計算或通訊方面過載，它將成為整個系統的性能瓶頸，導致系統速度下降，同時造成其他GPU資源閒置。

為了最大限度地提高資源利用率，DeepSeek的目標是在所有GPU上實現計算和通訊負載的平衡。

關鍵問題：不同資料平行實例之間的請求數量和序列長度差異導致核心注意力計算和分發傳送負載不平衡。

平衡各GPU之間的核心注意力計算（核心注意力計算負載平衡）；

均衡每個GPU處理的輸入token數量（分發傳送負載平衡），避免特定GPU出現處理延遲。

關鍵問題：資料平行實例之間請求數量和序列長度不均導致核心注意力計算（與KV快取使用相關）和分發傳送負載的差異。

平衡各GPU之間的KV快取（KVCache）使用（核心注意力計算負載平衡）；

均衡每個GPU的請求處理數量（分發傳送負載平衡）。

關鍵問題：在混合專家模型（Mixture of Experts，MoE）中，存在天然的高負載專家，導致不同GPU上的專家計算工作負載不平衡。

平衡每個GPU上的專家計算工作量（即最小化所有GPU中的最大分發接收負載）。

所有DeepSeek-V3/R1推理服務均在H800 GPU上運行，精度與訓練保持一致。

具體而言，矩陣乘法和分發傳輸採用與訓練一致的FP8格式，而核心MLA計算和組合傳輸使用BF16格式，確保最佳的服務性能。

此外，由於白天服務負載高而夜間負載低，團隊採取了一種創新的機制：

在白天高峰時段，所有節點都部署推理服務；

在夜間低負載時段，減少推理節點並將資源分配給研究和訓練。

在過去24小時內（02月27日中午12:00至02月28日中午12:00），V3和R1推理服務的合計峰值節點佔用達到278個，平均佔用226.75個節點（每個節點包含8個H800 GPU）。

假設租賃一個H800 GPU的成本為每小時2美元，每日總成本為87,072美元。

總輸入token：6080億，其中3420億token（56.3%）命中磁碟上的KV快取。

總輸出token：1680億。平均輸出速度為每秒20-22個token，每個輸出token的平均KV快取長度為4,989個token。

每個H800節點在預填充階段提供平均約7.37萬token/秒的輸入吞吐量（包括快取命中），或在解碼階段提供約1.48萬token/秒的輸出吞吐量。

上述統計封包括來自網頁、APP和API的所有使用者請求。

如果所有token都按照下列DeepSeek-R1的定價計費，每日總收入將達到562,027美元，利潤率為545%。

R1定價：輸入token（快取命中）每百萬0.14美元，輸入token（快取未命中）每百萬0.55美元，輸出token每百萬2.19美元。

然而，實際收入大幅低於此數字，原因如下：

只有部分服務實現了商業化（網頁和APP訪問仍然免費）

在非高峰時段自動應用夜間折扣

DeepSeek知乎官方帳號3月1日發表題為《DeepSeek-V3/R1推理系統概覽》的文章，全面揭曉V3/R1推理系統背後的關鍵秘密。

文章首次披露了DeepSeek的理論成本和利潤率等關鍵資訊。據介紹，假定GPU租賃成本為2美元/小時，總成本為87072美元/天；如果所有tokens全部按照DeepSeek R1的定價計算，理論上一天的總收入為562027美元/天，成本利潤率為545%。這一數字刷新了全球AI大模型領域的盈利天花板。

理論上DeepSeek每日淨賺474955美元（折合人民幣約346萬元）。

文章寫道：“DeepSeek-V3/R1推理系統的最佳化目標是：更大的吞吐，更低的延遲。”為實現這兩個目標，DeepSeek的方案是使用大規模跨節點專家平行（EP），但該方案也增加了系統複雜性。文章的主要內容就是關於如何使用EP增長批次大小（batchsize）、隱藏傳輸耗時以及進行負載平衡。

值得一提的是，DeepSeek開源周已正式收官，此前2月21日午間，DeepSeek曾宣佈，將開源5個程式碼庫，以完全透明的方式與全球開發者社區分享研究進展，每日都有新內容解鎖，進一步分享新的進展，並將這一計畫定義為“Open Source Week”（開源周）。

業內人士認為，“DeepSeek開源周”的重要性已經超過了不久前OpenAI的發佈會。DeepSeek用“量大管飽”的開源有力回擊了歐美關於DeepSeek故意說低訓練成本的說法，並且證明了在訓練鏈路上存在極大的最佳化空間。

對於DeepSeek的技術創新和商業潛力，分析師紛紛發表觀點。

中金公司研報認為，DeepSeek推理降本推動了推理需求的增長，短期內大量使用者端部署的需求增長會對推理硬體市場增長構成直接拉動，下游應用生態的想像空間也被進一步打開。

平安證券此前研報認為，DeepSeek通過演算法創新提高了算力利用率，在保證模型性能的同時降低了訓練成本，衝擊了海外科技公司模型訓練的“堆算力”模式。短期而言，此次演算法創新引發了市場對訓練算力需求預期邊際放緩的擔憂；但長期而言，在通用人工智慧（AGI）願景的驅動和AI應用的普及下，算力需求長期增長的趨勢仍將不變，尤其是推理側的算力需求空間或進一步拓寬。

總體來看，DeepSeek-V3/R1推理系統的技術最佳化和成本利潤率分析展示了其在人工智慧領域的強大競爭力。通過大規模跨節點專家平行技術，DeepSeek不僅提升了系統性能，還實現了顯著的成本效益。 (鳳凰網財經)

#推理系統 你可以在這裡找到鉅亨號中所有使用「推理系統」為關鍵字所發布的內容