大家更關心的事情，下一個是什麼？其實參考這次的FlashMLA，猜測方向大概就是過去已發表論文中的程式碼實現。不複雜，核心思想大概就是：“論文你們都學不會，ok，程式碼直接扔你們...”

V3/r1中的招太多了，MTP多token預測、混合精度FP8訓練、Dualpipe雙重流水線訓練、Long CoT長思維鏈、還有一些底層通訊算子的最佳化。這些原始“手稿”或程式碼，可能就是後面4天的內容之一。

轉頭一想，這分明是為輝達GPU、CUDA庫繼續增添成功實踐範本......進一步鞏固和加強了N卡壁壘。這不就是人盡皆知的所謂“CUDA護城河”的完美案例嗎？

問了幾位身在或非常瞭解DS團隊的老師，情況的確如此：“DeepSeek目前非常依賴N卡或GPGPU” 。現在看當5天repo發佈結束，可能不是DS繞過了N卡，而是把N卡用到了極致，玩出了花...

最近國內AI的崛起，引發了一系列“戰狼情節”，比如對DS完全繞過輝達實現國產AI完全自主可控的期待blabla。但實際情況是，DS非常純粹，目標只有AGI，並不是要為國產卡做多大貢獻，也不是為了打掉輝達多少市值。從務實角度看，DS缺人，也缺時間，輝達GPU依然是目前最省力、省時間、省資源的方案。

當然國產卡的進步已經非常快，昇騰910實現了國產卡訓練，已經是巨大突破（AMD都沒做到的事情，華為做到了）。而昇騰與矽基流動合作成功實踐了DS r1的推理，最佳化後性能已經能與hopper看齊。後面4天中，說不定也有非N卡相關的實踐。看國內AI capex邊際增量最大也是國產算力。但從務實的角度，無論對於DeepSeek還是我們的雲廠、infra、應用廠商來說，算力卡只是工具，不是目的，目的是基於工具撬動和轉化出更大商業價值。對算力卡的要求，無非是保證穩定供給、性價比、易用性、可得性等綜合因素上的平衡。國內角度、更務實的操作，肯定是能進口多少進口多少，買不到就上備選方案...

DS目標是AGI，還真不是做空輝達    (資訊平權)

2月24日，DeepSeek啟動“開源周”，開源了首個程式碼庫FlashMLA。

據介紹，這是DeepSeek針對Hopper GPU最佳化的高效MLA解碼核心，專為處理可變長度序列而設計，現在已經投入生產使用。“在H800上能實現3000 GB/s的記憶體頻寬&580 TFLOPS的計算性能。”DeepSeek說。

簡單來說，FlashMLA 是一個能讓大語言模型在 H800這樣的GPU上跑得更快、更高效的最佳化方案，尤其適用於高性能AI任務。這一程式碼能夠加速大語言模型的解碼過程，從而提高模型的響應速度和吞吐量，這對於即時生成任務（如聊天機器人、文字生成等）尤為重要。

MLA (Multi-Layer Attention，多層注意力機制)是一種改進的注意力機制，旨在提高Transformer模型在處理長序列時的效率和性能‌。MLA通過多個頭（head）的平行計算，讓模型能夠同時關注文字中不同位置和不同語義層面的資訊，從而更全面、更深入地捕捉長距離依賴關係和複雜語義結構‌。

此前，有從業者解析DeepSeek架構時提到，MLA的本質是對KV（Key-Value，一種快取機制）的失真壓縮，提高儲存資訊，“該技術首次在DeepSeek-V2中引入，MLA是目前開源模型裡顯著減小KV 快取大小的最佳方法。”

DeepSeek開源這一程式碼有何影響？媒體用這一問題詢問了DeepSeek，它回答稱，這一程式碼就像給AI推理引擎裝上了一台“渦輪增壓器“，讓大模型在處理複雜任務時更快、更省資源，同時降低了技術門檻。FlashMLA的意義不單是技術最佳化，更是打破算力壟斷、加速AI普惠的關鍵一步。

具體來說，FlashMLA可以突破GPU算力瓶頸，降低成本。傳統解碼方法在處理不同長度的序列（如翻譯不同長度的句子）時，GPU的平行計算能力會被浪費，就像用卡車運小包裹，大部分空間閒置。而FlashMLA的改進是：通過動態調度和記憶體最佳化，讓Hopper GPU（如H100）的算力被“榨乾”，相同硬體下吞吐量顯著提升。這意味著企業可以用更少的GPU伺服器完成同樣的任務，直接降低推理成本。

另一方面，FlashMLA可以推動大模型落地應用。可變長度序列是現實場景中的常態（如聊天對話、文件生成），但傳統方法需要填充（Padding）到固定長度，導致計算冗餘。FlashMLA支援動態處理變長輸入，讓AI應用（如客服機器人、程式碼生成）響應更快、更流暢，使用者體驗提升，加速商業化落地。

此前高效解碼核心多由科技巨頭閉源壟斷（如CUDA最佳化庫），中小企業和研究者難以復現。FlashMLA開源後，開發者可免費獲得“工業級最佳化方案”，降低技術門檻，促進更多創新應用（如垂直領域小模型）的誕生。

"the whale is making waves!（鯨魚正在掀起波浪！）”有網友在DeepSeek的帖子下留言稱。（註：DeepSeek的企業LOGO是鯨魚）。

也有網友希望DeepSeek開源網頁搜尋（Web Search）相關的程式碼，並提到，“DeepSeek 是真正的OpenAI（開放人工智慧）”。

這僅僅是開始，上周2月21日DeepSeek宣佈，下周開始，會陸續開源5個程式碼庫，“以完全透明的方式分享我們微小但真誠的進展”。DeepSeek表示，這些線上服務中的基礎建構模組已經經過文件化、部署，並在生產環境中經過實戰檢驗。

DeepSeek在公告中稱自己是探索 AGI 的小公司，作為開源社區的一部分，每分享一行程式碼，都會成為加速AI行業發展的集體動力。同時，DeepSeek 稱，沒有高不可攀的象牙塔，只有純粹的車庫文化（不少美國著名企業從車庫裡誕生）和社區驅動的創新。 (中國經濟網)

【導讀】市場震盪，DeepSeek開源FlashMLA

大家好啊，今天，A股、港股都陷入了震盪調整，一起看看發生了什麼。

2月24日，A股市場全天震盪調整，創業板指領跌。截至收盤，滬指跌0.18%，深成指跌0.08%，創業板指跌0.67%。

市場共2778隻個股上漲，91隻個股漲停，2468隻個股下跌。

農業股集體走強，智慧農業、星光農機、東方集團漲停。消息面上，2025年中央一號檔案2月23日發佈，本次中央一號檔案首提“農業新質生產力”。

基建股表現活躍，北方國際、中工國際、北新路橋等漲停。

DeepSeek概念股震盪調整，航錦科技、浙文互聯跌停，每日互動、青雲科技跌超10%。

港股方面，恆生科技指數跌約0.8%。

消息面上，美東時間2月21日，白宮網站發佈“美國第一”投資政策備忘錄，宣佈將調整美投資政策，重點進一步限制與中國的雙向投資。中國商務部表示，在中國赴美投資方面，美針對中國投資加嚴安全審查，將嚴重打擊中國企業對美投資信心。希望美方為中國企業赴美投資提供公平、透明、穩定、可預期的營商環境。在美對華投資方面，美方將進一步採取更多限制措施，這是非常不合理的。有關措施一旦落地，會進一步扭曲兩國投資往來，對美自身也沒有好處。很多美國商協會和企業已經提出，美對華投資限制將導致美國企業將中國市場讓給其他競爭對手。

2月24日，DeepSeek啟動“開源周”，首個開放原始碼的程式碼庫為FlashMLA——針對Hopper GPU最佳化的高效MLA解碼核心，專為處理可變長度序列而設計。據介紹，FlashMLA的靈感來自FlashAttention 2&3和cutlass項目。

FlashMLA是DeepSeek針對HopperGPU最佳化的高效型MLA（Multi-HeadLatentAttention，多頭潛在注意力）解碼核心，專為處理可變長度序列設計，已在生產環境中投入使用。

此項目是DeepSeek V2–V3系列大模型的重要技術創新，旨在通過最佳化解碼過程和KV快取來降低大語言模型的推理成本，同時提升響應速度和吞吐量。

FlashMLA在輝達H800 SXM5 GPU上測試時，能夠達到3000GB/s的記憶體頻寬和580TFLOPS的計算上限，這顯示出在記憶體訪問和計算效率上的顯著優勢。

目前發佈的版本支援BF16精度，並採用塊大小為64的分頁KV快取，確保在處理大模型推理任務時更加高效。

官方指出，FlashMLA的設計靈感部分來源於FlashAttention2&3以及輝達的CUTLASS項目，這表明該解碼核在高效注意力計算方面進行了針對性最佳化。

通過採用低秩分解等技術，FlashMLA在壓縮KVCache的同時仍保證了原有性能，能夠在降低記憶體需求的同時提升推理效率。

FlashMLA特別適用於需要處理長序列文字的應用，如聊天機器人、文件分析以及即時翻譯系統，能顯著降低延遲和資源佔用。

隨著該項目開源，未來有望整合到vLLM、Hugging Face Transformers或Llama.cpp等開源生態系統中，使得更多大語言模型（如LLaMA、Mistral、Falcon）能在相同硬體資源下獲得更高效的推理性能。

發佈的程式碼中包含內聯PTX程式碼，這種做法使得開發者可以更精細地控制GPU執行流程，進一步提升計算性能，並可能部分繞開輝達封閉生態的限制。

上周四，DeepSeek宣佈在這周舉辦“開源周”活動，並開源五個程式碼庫。

DeepSeek表示以完全透明的方式與全球開發者社區分享他們的研究進展，每日都有新內容解鎖，進一步分享新的進展，並將這一計畫定義為“Open Source Week”。DeepSeek表示，其線上服務中的建構模組已經被記錄、部署並進行了實際測試，希望分享的每一行程式碼都會變成強有力的勢能，加速行業發展處理程序。該團隊還稱，這個領域沒有像牙塔，只有純粹的車庫創業精神與社區共築的創新力量。 (中國基金報)

今天開始，我們正式進入 DeepSeek 開源周。

DeepSeek 開放原始碼專案第一彈 FlashMLA，已經在極短的時間內發酵到全網了，短短幾個小時，該項目就已經收穫了超過 3.5K Star，且還在不斷飆升。

雖然 FlashMLA 裡的每個字母都認識，連在一起就看不懂了。別急，我們整理了一份 FlashMLA 速通指南。

讓 H800 性能暴增，FlashMLA 到底什麼來頭？

據官方介紹，FlashMLA 是一個針對 Hopper GPU 最佳化的高效 MLA（Multi-Head Latent Attention）解碼核心，支援變長序列處理，現在已經投入生產使用。

FlashMLA 通過最佳化 MLA 解碼和分頁 KV 快取，能夠提高 LLM（大語言模型）推理效率，尤其是在 H100 / H800 這樣的高端 GPU 上發揮出極致性能。

說人話就是，FlashMLA 是一種專門為 Hopper 高性能 AI 晶片設計的先進技術——一種「多層注意力解碼核心」。

聽起來很複雜，但簡單來說，它就像是一個超級高效的「翻譯器」，能讓電腦更快地處理語言資訊。它能讓電腦處理各種長度的語言資訊，而且速度特別快。

比如，你在用聊天機器人的時候，它能讓你的對話更快地得到回覆，而且不會卡頓。為了提高效率，它主要通過最佳化一些複雜的計算過程。這就像是給電腦的「大腦」做了一個升級，讓它在處理語言任務時更聰明、更高效。

DeepSeek 官方特意提到，FlashMLA 的靈感來自 FlashAttention 2&3 和 cutlass 項目。

FlashAttention 是一種高效的注意力計算方法，專門針對 Transformer 模型（如 GPT、BERT）的自注意力機制進行最佳化。它的核心目標是減少視訊記憶體佔用並加速計算。cutlass 也是一個最佳化工具，主要幫助提高計算效率。

DeepSeek 的爆火出圈很大程度上是因為以低成本創造了高性能模型。

而這背後的秘籍主要得益於其在模型架構和訓練技術上的創新，尤其是混合專家（MoE）和多頭潛在注意力（MLA）技術的應用。

FlashMLA 則是 DeepSeek 公司開發的一種針對多頭潛在注意力（MLA）技術的實現和最佳化版本。那麼問題來了，什麼是 MLA（多頭潛在注意力）機制？

在傳統的語言模型裡，有一種叫「多頭注意力（MHA）」的技術。它能讓電腦更好地理解語言，就像人用眼睛同時關注多個地方一樣。

不過，這種技術有個缺點，就是需要很大的記憶體來儲存資訊，就像一個很能裝的「倉庫」，但倉庫太大就會浪費空間。

MLA 的升級之處在於一種叫「低秩分解」的方法。

它把那個大倉庫壓縮成一個小倉庫，但功能還是一樣好，就像把一個大冰箱換成一個小冰箱，但裡面的東西還是能放得下。這樣一來，在處理語言任務的時候，不僅節省了空間，速度還更快了。

不過，雖然 MLA 把倉庫壓縮了，但它的工作效果和原來一樣好，沒有打折扣。

當然，除了 MLA 和 MoE，DeepSeek 還用了其他一些技術來大幅降低了訓練和推理成本，包括但不限於低精度訓練、無輔助損失的負載平衡策略以及多 Token 預測（MTP）。

性能資料表明，FlashMLA 在記憶體和計算限制下的表現遠超傳統方法，這得益於其線性複雜度的設計和針對 Hopper GPU 的最佳化。

與標準多頭注意力的對比，更是進一步凸顯 FlashMLA 的優勢：

長序列處理：適合處理數千個標記的文字，如文件分析或長對話。

即時應用：如聊天機器人、虛擬助手和即時翻譯系統，降低延遲。

資源效率：減少記憶體和計算需求，便於在邊緣裝置上部署。

目前 AI 訓練或推理主要依賴輝達 H100 / H800，但軟體生態還在完善。

由於 FlashMLA 的開源，未來它可以被整合到 vLLM（高效 LLM 推理框架）、Hugging Face Transformers 或 Llama.cpp（輕量級 LLM 推理） 生態中，從而有望讓開源大語言模型（如 LLaMA、Mistral、Falcon）運行得更高效。

同樣的資源，能幹更多的活，還省錢。

因為 FlashMLA 擁有更高的計算效率（580 TFLOPS）和更好的記憶體頻寬最佳化（3000 GB/s），同樣的 GPU 資源就可以處理更多請求，從而降低單位推理成本。

對於 AI 公司或者云計算服務商來說，使用 FlashMLA 也就意味著更低的成本、更快的推理，讓更多 AI 公司、學術機構、企業使用者直接受益，提高 GPU 資源的利用率。

此外，研究人員和開發者還可以基於 FlashMLA 做進一步的最佳化。

過去，這些高效 AI 推理最佳化技術通常主要掌握在 OpenAI、輝達等巨頭手裡，但現在，隨著 FlashMLA 的開源，小型 AI 公司或者獨立開發者也能用上，更多人進入 AI 領域創業，自然也就有望催生更多的 AI 創業項目。

簡言之，如果你是 AI 從業者或者開發者，最近在用 H100 / H800 訓練或推理 LLM，那麼 FlashMLA 可能會是一個值得關注或研究的項目。

與春節期間網友扒出 DeepSeek V3 論文具體提到了 PTX 的細節相似，X 網友發現 DeepSeek 發佈的 FlashMLA 項目中同樣包含了一行內聯 PTX 程式碼。

PTX 是 CUDA 平台的中間指令集架構，處於高級 GPU 程式語言和低級機器程式碼之間，通常被視為輝達的技術護城河之一。

通過內聯 PTX，這使得開發者能夠更精細地控制 GPU 的執行流程，從而可能實現更高效的計算性能。

此外，直接利用輝達 GPU 的底層功能，而不必完全依賴於 CUDA，也有利於降低輝達在 GPU 程式設計領域的技術壁壘優勢。

換句話說，這或許也意味著 DeepSeek 可能在有意繞開輝達封閉的生態。

當然，如無意外，根據外媒的爆料，本周接下來預計還有 GPT-4.5、Claude 4 等模型的發佈，去年年底沒能看到的 AI 大戰或將在本周上演。

看熱鬧不嫌事大，打起來，打起來。  (APPSO)

FlashMLA 是一種高效的 MLA 解碼核心，專為 Hopper GPU 最佳化，可用於處理變長序列推理。

在 H800 SXM5 上運行 CUDA 12.6，FlashMLA 在受記憶體頻寬限制的組態下可達 3000 GB/s，在受計算能力限制的組態下可達 580 TFLOPS。   

附上 GitHub 項目地址：
https://github.com/deepseek-ai/FlashMLA

python tests/test_flash_mla.py 是一個命令列指令，用於運行 Python 測試檔案 test_flash_mla.py，通常用於測試 flash_mla 相關的功能或模組。

from flash_mla import get_mla_metadata, flash_mla_with_kvcache

tile_scheduler_metadata, num_splits = get_mla_metadata(cache_seqlens, s_q * h_q // h_kv, h_kv)

q_i, kvcache_i, block_table, cache_seqlens, dv,

tile_scheduler_metadata, num_splits, causal=True,

#FlashMLA 你可以在這裡找到鉅亨號中所有使用「FlashMLA」為關鍵字所發布的內容