【新智元導讀】Google一篇論文，直接讓儲存巨頭們「集體失眠」，一夜市值蒸發幾百億！最新部落格官宣TurboQuant演算法，直接將快取壓到3-bit，記憶體佔用只有1/6。一篇論文攪動兆市場，儲存晶片的天塌了...誰也未曾料到，本周三美股開盤，儲存晶片類股遭遇「黑色時刻」，巨頭股價全線飄綠——截至收盤，美光科技下跌4%，西部資料下跌4.4%，希捷下跌5.6%，閃迪更是重挫6.5%。引發這場拋售地震的導火線，正是Google發佈的TurboQuant壓縮演算法。眾所周知，大模型跑起來時，KV快取（KV cache）簡直是記憶體界的「吞金獸」。為了不重複計算之前的Token，LLM維持一份「運行記憶」，隨著對話越來越長，這份記憶會像滾雪球一樣迅速膨脹。Google的TurboQuant，給出了一套極其「暴力」的瘦身方案：首先，把KV快取裡的高維向量做一次「旋轉」，再換一套極坐標系來描述，記憶體開銷直接歸0。然後，用僅僅1-bit額外空間，放一個數學「校正器」進去，把壓縮帶來的系統性偏差精確抹平。TurboQuant論文將於下月舉辦的ICLR 2026上正式發表結果非常頂：不用任何重訓，TurboQuant把快取壓縮至喪心病狂的3-bit。這麼一來，KV快取開銷驟降6倍，關鍵是，推理表現幾乎零損耗。在H100上，相較於32-bit基線，4-bit的計算注意力速度飆升了8倍。不僅省空間，還跑得更快了。一時間，全網陷入瘋狂。照這樣說，16GB Mac mini又能用來跑大模型了。這一幕，現實版「魔笛手」（Pied Piper）真的降臨了！記憶體佔用暴降6倍，儲存巨頭集體重挫對於晶片儲存巨頭來說，這無異於一場「底層邏輯大地震」。美光、西數等巨頭的估值基石，向來建立在「AI伺服器單機容量紅利」之上。一旦單次推理任務的位元（Bit）需求發生結構性驟降，高性能儲存的增長動能將直接面臨「縮水」危機。直白講，GoogleTurboQuant出世，直接衝擊了晶片儲存巨頭們，備受追捧的AI硬體邏輯。KV快取暴降6倍，速度提升8倍，意味著每台伺服器所需的高端記憶體晶片可能變少。Cloudflare首席執行長Matthew Prince甚至將其形容為「Google的DeepSeek時刻」！KV快取，大模型瘋狂吞金要理解TurboQuant的份量，先得搞清楚它瞄準的靶心——KV快取到底有多吃記憶體。大模型生成每一個Token時，都要「回看」之前所有Token的資訊。為了避免重複計算，模型把每一層注意力機制產出的Key和Value向量全部快取起來，形成一張高速「速查表」。問題在於，這張表隨對話長度線性膨脹。當上下文從4K擴展到128K甚至百萬等級，KV快取吞掉的視訊記憶體往往反超模型參數本身，成為推理階段最大的記憶體瓶頸。傳統的解法是向量量化，也就是把16-bit浮點數壓縮成4-bit整數。但幾乎所有傳統方法都需要為每一小塊資料額外儲存一組全精度的量化常數，每個數字多吃1到2個bit。壓到4-bit，實際可能是5到6-bit，壓縮的意義被自己的「手續費」蠶食了一大截。而TurboQuant的野心，正是徹底消滅這筆附加費。論文地址：https://arxiv.org/pdf/2504.19874兩步「絕殺」極坐標變換 + 1-bit誤差校驗TurboQuant的核心，是一個精巧的兩階段流程。第一階段：PolarQuant換一個坐標系看世界傳統量化在笛卡爾坐標系（X、Y、Z軸）下操作，每個軸的取值範圍不固定，必須額外儲存歸一化參數來「對齊」。換句話說，每一小塊資料都要自帶一張「比例尺」，而這張比例尺本身就很佔空間。PolarQuant的第一步，是對資料向量做一次隨機旋轉。這一步看似隨意，背後的數學意義卻很深：在高維空間裡，隨機旋轉會讓向量的每個坐標份量收斂到一種高度集中的Beta分佈，而且各份量之間近似獨立同分佈。不管原始資料長什麼樣，轉完之後，統統變成「一個模子刻出來的」。PolarQuant就像一座高效的壓縮橋樑，能把笛卡爾坐標輸入轉換成緊湊的極坐標「速記」形式，方便後續的儲存和處理這讓複雜的高維量化問題，降格為一組簡單的一維標量量化問題。Google只需要提前算好不同位寬下的最優碼本，推理時直接查表即可，不需要為每一組資料單獨計算任何東西。然後，PolarQuant把旋轉後的向量「笛卡爾坐標系」轉換成「極坐標系」。舉個栗子，傳統方法描述一個位置：向東走3個街區，再向北走4個街區。PolarQuant則說：朝37度方向直接走5個街區。轉換之後，資料被拆成兩組資訊：一個半徑（代表訊號強度），一組角度（代表訊號方向）。接下來才是真正精妙的一步，即「遞迴配對」。PolarQuant把坐標兩兩分組進行極坐標變換，得到一組半徑和一組角度；再把這些半徑兩兩配對，做第二輪極坐標變換；如此遞迴往復，最終整個高維向量被濃縮為一個最終半徑和一系列描述性角度。因為角度的分佈模式在數學上是已知且高度集中的，整個過程不需要儲存任何歸一化常數。開銷，歸零。這一步消耗了絕大部分的壓縮預算（分配b-1個bit），專注於把均方誤差（MSE）壓到最低，精準捕捉原始向量的核心資訊。第二階段：QJL用1 - bit消滅殘餘誤差再精準的壓縮，也會留下誤差。而且這裡有個隱蔽的陷阱：一個在MSE意義上最優的1-bit量化器，在高維空間中會引入一個2/π的乘性偏差。也就是說，你把資料壓得很小、失真也很低，但用它算內積（注意力分數的核心操作）時，結果是系統性偏斜的。TurboQuant的第二步，專門來「殺」這個偏差。它將Johnson-Lindenstrauss變換應用到第一階段的殘餘誤差上，把每個誤差值壓縮為一個符號位：+1或-1。然後配合一個特殊的估計器——用高精度的Query向量和低精度的壓縮Key做聯合計算。這套組合拳，在數學上被證明是「無偏」的：壓縮前後的內積期望值嚴格相等。只消耗最後1個bit，就把第一階段殘留的系統性偏差徹底抹平。兩步合璧的效果TurboQuant在僅僅3-bit的總預算下，實現了接近無損的壓縮效果，全程零額外開銷。論文給出了嚴格的理論證明：TurboQuant的MSE失真率，在所有位寬下都控制在理論絕對下限的約2.7倍以內。在1-bit極端壓縮的情況下，更是只有最優值的約1.45倍。換句話說，它幾乎貼著資訊理論的「物理極限」在運行。整套演算法是「資料無感知」（data-oblivious）的——不需要任何校準資料，不依賴任何預訓練，對資料集零假設。同時，演算法內部全程使用向量化運算，避免了傳統方法中緩慢的二分尋找，對GPU加速器極其友好。拿來即用，即插即飛。跑分全面碾壓，大海撈針完美通關光說原理不夠，得看實戰。Google在LongBench、Needle In A Haystack、ZeroSCROLLS、RULER和L-Eval五大長上下文基準測試上，對TurboQuant進行了嚴格驗證，測試模型覆蓋Gemma、Mistral和Llama-3.1-8B-Instruct。結果相當硬核。在LongBench的問答、程式碼生成、文字摘要等綜合任務中，3-bit配置下的TurboQuant，性能全面優於KIVI等基線方法，甚至逼近全精度模型的表現。最殘酷的考驗來自「大海撈針」——在10萬Token的文字海洋裡，精準撈出一句特定資訊。在4倍壓縮比下，TurboQuant的檢索精度一路保持到10.4萬Token，與全精度模型完全一致。6倍壓縮之後，模型該記住的，一個字都沒丟。在H100 GPU上，4-bit TurboQuant計算注意力logits的速度，相比32-bit未量化基線提升了8倍。需要說明的是，這個8倍是注意力計算環節的加速比，並非端到端推理的整體提速，但注意力計算恰恰是長上下文推理中最吃資源的那一環。Google特別強調，TurboQuant引入的執行階段開銷「幾乎可以忽略不計」。這也好理解——演算法本身不涉及任何資料集相關的查表或搜尋操作，純粹是矩陣運算，天然適合GPU平行。在高維向量搜尋方面，TurboQuant也沒有放過對手。在GloVe資料集（200維）上，它擊敗了PQ和RabbiQ兩大前沿方法，拿下最優1@k召回率。而那些對手還依賴龐大的密碼本和針對性調優，TurboQuant全程「裸奔」通殺。這個結果的含金量在於：向量搜尋是Google搜尋、推薦系統、廣告系統等核心產品的底層引擎。TurboQuant在這個賽道上的優勢，意味著它不只是一個學術玩具，而是有明確的工程落地路徑。部落格官宣這天，獨立開發者在Reddit上曬出了復現成果：基於PyTorch和自訂Triton kernel，在RTX 4090上用2-bit精度跑Gemma 3 4B，輸出與未壓縮版本逐字元一致。論文寫的「零損耗」，社區用程式碼投了票。另一位開發者Prince Canuma實測後驚嘆道：「面對8.5K到64.2K不等的大跨度上下文，TurboQuant讓模型對視訊記憶體實現極致壓縮」。2.5-bit量化讓KV快取縮小了4.9倍；3.5-bit量化也實現了3.8倍的縮小。Google一張紙，儲存晶片天塌了？儲存晶片的天，真的塌了嗎？大機率沒有。科技行業有一條反覆被驗證的鐵律——傑文斯悖論：資源使用效率越高，總消耗量反而越大。KV快取壓縮6倍，最可能的結果不是少買記憶體，而是同樣的視訊記憶體跑更長的上下文、更多的並行、更大的模型。雖然壓縮演算法還從未從根本上改變過採購量，但有兩件事確實在發生改變。第一，推理成本的地板價被改寫了。TurboQuant的三篇論文將在ICLR 2026和AISTATS 2026上公開發表，核心思想向全行業敞開。當3-bit能做到過去16-bit的事情，受益的是每一個做推理服務的公司，感到壓力的是那些指望「量價齊升」永遠持續的儲存廠商。第二，從論文到落地的路正在縮短。TurboQuant目前僅在8B參數等級的開源模型上得到驗證，70B以上的模型、MoE架構、百萬級上下文窗口上的表現尚未證實。Google也沒有宣佈它已部署到Gemini或任何生產系統中。這次Google部落格一發出，不到24小時，就有獨立開發者從論文出發寫出了完整實現並跑通驗證。在算力軍備競賽裡，最鋒利的武器未必是更大的晶片，也可能是更聰明的數學。技術不關心股票程式碼，只關心位元的邊界在那裡。 (新智元)

GoogleAI記憶體壓縮技術TurboQuant橫空出世，宣稱將大模型快取記憶體縮減6倍、性能提升8倍，瞬間引爆市場恐慌——美光科技、閃迪等儲存巨頭盤中重挫逾5%。然而華爾街投行卻高呼"抄底"：摩根士丹利援引傑文斯悖論指出，效率革命非但不會壓縮硬體需求，反將啟動更龐大的AI部署規模，儲存需求長期基本面"中性偏正面"。Google發佈的一項新型AI記憶體壓縮技術，不僅在科技界引發了對底層算力效率革命的狂歡，也讓美股儲存晶片類股經歷了一場劇烈的估值重估，但華爾街機構卻從這場恐慌中看到了買入良機。周三，受該技術可能大幅削減AI硬體需求預期的衝擊，美股儲存晶片類股盤中遭遇重挫。截至收盤，儲存晶片與硬體供應鏈指數下跌2.08%，閃迪、美光科技等頭部企業均顯著收跌，凸顯出市場對需求前景的防禦性反應。然而，在科技圈將這一突破性技術捧為“真實版Pied Piper”和“Google版DeepSeek”的同時，華爾街投行的表態卻截然不同。多位分析師指出，該技術的實際影響被市場過度計價，並直言投資者應藉機買入回呼的記憶體概念股。儘管實驗室資料展示了驚人的壓縮效率，但從宏觀經濟學與算力部署的真實演進來看，這項旨在打破AI記憶體瓶頸的技術，最終可能不僅不會摧毀儲存需求，反而會成為推動行業進一步擴張的催化劑。儲存類股應聲下挫Google發佈名為TurboQuant的記憶體壓縮演算法後，市場對儲存硬體長期需求的擔憂迅速蔓延，導致相關資產遭到拋售。周三盤中，儲存晶片類股集體下探。閃迪一度大跌6.5%，美光科技跌4%，西部資料和希捷科技分別跌超4%和5%。隨著市場情緒在尾盤有所消化，相關個股跌幅縮小。截至收盤，閃迪和美光科技均跌超3.4%，希捷科技收跌2.6%，西部資料跌幅縮小至1.6%。當日，儲存晶片與硬體供應鏈指數報收於113.03點，盤中一度觸及109點的日內低點。引發市場恐慌的直接原因，是Google宣稱TurboQuant可在不損失準確性的前提下，將大型語言模型執行階段的快取記憶體佔用至少減少6倍。在高度依賴硬體規模擴張的AI軍備競賽邏輯下，任何可能削減實體記憶體採購量的技術進步，都足以讓本已處於高估值的晶片類股面臨拋壓。“真實版Pied Piper”與“Google版DeepSeek”在科技業界，TurboQuant的發佈被視為解決大語言模型高昂運行成本的重要里程碑。該技術專為解決AI系統中的鍵值快取（KV Cache）瓶頸而設計，核心是將原本佔用大量空間的快取壓縮至3位元。據媒體報導，Google採用兩步壓縮法：先通過PolarQuant技術將資料向量轉換為極坐標以消除額外的歸一化開銷，再利用量化演算法QJL消除殘差誤差。在採用Gemma和Mistral等開源模型的測試中，該演算法不僅實現了6倍的記憶體縮減，在輝達H100 GPU上的性能較未量化的32位方案更是提升了最高8倍。這一驚豔的資料在網際網路上引發熱議，人們將其戲稱為“真實版Pied Piper”——即HBO經典美劇《矽谷》中那家憑藉無失真壓縮演算法顛覆行業規則的虛構初創公司。Cloudflare首席執行長Matthew Prince等人則將其稱為Google的“DeepSeek時刻”，認為其有望像DeepSeek一樣，通過極高的效率收益大幅拉低AI的運行成本。華爾街無懼衝擊，高呼“抄底”面對科技圈的狂熱與二級市場的拋售，華爾街投行表現出顯著的冷靜，並認為市場反應過度。Lynx Equity Strategies分析師KC Rajkumar對該技術的“顛覆性”提出質疑。他在給客戶的報告中指出，媒體對該技術的報導存在誇大成分。他表示，當前的推理模型早已廣泛採用4位元量化資料，Google所謂的8倍性能提升是建立在與老舊的32位模型對比之上的。他強調，這些先進的壓縮技術僅僅是為了緩解算力瓶頸，並不會破壞未來三到五年內因供應受限而依然堅挺的記憶體與快閃記憶體需求。為此，他維持對美光科技700美元的目標價及買入評級，並明確表示建議“在因Google消息引發的回呼中買入”。Wells Fargo分析師Andrew Rocha同樣指出，儘管TurboQuant直擊AI系統的記憶體成本曲線，但歷史經驗表明，壓縮演算法的存在從未從根本上改變硬體採購的整體規模，目前AI記憶體的需求基本面依然強勁。傑文斯悖論再現，長期需求或受提振除了指出市場反應過度外，機構還從更長遠的經濟學視角重新評估了TurboQuant的影響。摩根士丹利在分析中指出，TurboQuant僅作用於推理階段的鍵值快取，完全不影響模型訓練任務，也不影響模型權重所佔用的高頻寬記憶體（HBM）。該技術的核心意義在於提升單GPU的吞吐量，使相同硬體能支援更長的上下文或更大的批處理規模。摩根士丹利進一步援引了“傑文斯悖論”（Jevons Paradox）來闡釋這一現象：技術效率的提升往往會降低使用成本，從而激發出更龐大的總需求。通過大幅降低單次查詢的服務成本，TurboQuant能夠讓原本只能在雲端昂貴叢集上運行的模型遷移至本地，有效降低AI規模化部署的門檻。這意味著，效率提升將啟動更多原本受制於成本而無法落地的AI應用場景。投行總結稱，該技術重塑了AI部署的成本曲線，對算力與記憶體硬體的長期影響不僅不是利空，反而呈現出“中性偏正面”的積極訊號。 (invest wallstreet)

一、“‘快通過了’這句話，真正含金量有多少”外界很容易把“接近認證”聽成一句定論。可對輝達這種客戶來說，認證更像一條長跑：到了最後階段，反而最怕“看似都對，偶發翻車”。這也是為什麼消息裡常出現“最後資格測試”“最終階段”這類字眼——它們表達的不是勝利，而是還在經受最嚴格、最挑剔的那部分驗證。HBM 的難處往往不在紙面指標，而在穩定性與一致性。樣品能跑，只能說明產品“可用”；客戶真正關心的是“可用能不能變成可供”。尤其是當它被裝進 AI 加速器體系里長時間高負載執行階段，溫度、功耗、良率波動、封裝堆疊後的穩定性，都會被放到顯微鏡下反覆看。到了這個階段，供應商拼的不是“亮眼參數”，而是把不確定性一點點擠出去。Reuters 的說法更具體：三星據稱計畫下個月開始生產 HBM4，目標是供給輝達；同時韓國媒體也傳出三星已通過輝達與 AMD 的資格測試、準備對輝達出貨。這些表述放在一起看，最穩妥的解讀是：三星已經進入“可被選用”的區間，但訂單規模、供貨節奏、以及能否長期穩定供貨，還要看後續爬坡的結果。二、九月送樣，拖到現在：這條時間線裡藏著什麼如果只看“9 月送樣—1 月接近認證”，有人會覺得進展很快；也有人會反過來覺得“怎麼還沒落槌”。其實兩種感受都正常，因為樣品交付並不是認證的終點，甚至連中點都未必算得上。送樣之後，真正耗時的是磨合：工藝要穩定、封裝堆疊要更穩、良率要往上爬；更關鍵的是，要跟客戶平台聯調，把“實驗室可行”變成“系統裡可用”。HBM 不是單獨賣出去的一顆晶片，它在整機裡承擔的是頻寬、功耗和可靠性的綜合職責，只要其中一個環節在邊緣條件下出現抖動，客戶就會要求再改一輪、再測一輪。所以，“進入最後資格測試階段”這句話的份量在於：產品大機率已經越過了“做不出來”的門檻，正在回答更難的那道題——能不能穩定地做成量產節拍。HBM 的勝負，往往就寫在這句樸素的話裡：能不能按時、按量、按質交付。三、輝達要的不是“更便宜的記憶體”，而是“供得上”的記憶體對輝達而言，HBM 是 AI 加速器的關鍵物料，不是“可替可不替”的選件。Reuters 提到，輝達計畫在其下一代 Vera Rubin 平台上使用 HBM4。這類平台級產品最怕的不是某一代晶片“貴一點”，而是供應鏈不確定：產能供不上、交付不穩定、或某個關鍵節點被單點風險卡住，都會直接影響產品節奏。這也是為什麼“多一個可靠來源”本身就能改變格局。過去一段時間裡，SK 海力士在先進 HBM 的供貨上更佔優勢，甚至出現過“接近獨家供貨”的市場印象；而三星在前一代 HBM 的供貨節奏上承受過壓力，這些都被 Reuters 點到過。當客戶被迫把希望壓在單一供應商身上，議價並不是最核心的矛盾，真正的矛盾是風險無法分散：產線波動、良率起伏、交付延遲，都會立刻變成系統性風險。從這個角度看，三星逼近認證線的意義，首先不是“誰取代誰”，而是客戶有機會把訂單分散開，供應結構更有彈性——這往往比價格更讓客戶安心。四、三星想翻身，SK 海力士想守擂：HBM4把牌桌又洗了一次三星在追趕，SK 海力士當然也在加速。Reuters 在 2025 年 9 月的報導裡提到，SK 海力士表示已完成 HBM4 的內部認證流程，並在為客戶建立生產體系；報導還提到 HBM4 引入更“客戶定製化”的 base die，使得跨供應商相容更難。這句話很關鍵：HBM 越往後走，越不像標準化大宗品，更像“半定製工程”。先行者越早把方案跟客戶一起跑通，後來的競爭者越難靠“同規格替換”輕易切走份額。另一邊，SK 海力士也在用擴產和節奏表態。Reuters 今年 1 月提到，SK 海力士為了應對需求，加快了新廠推進，並且客戶越來越傾向簽長期供貨協議，而不是一年一簽。長期協議的出現，意味著客戶的焦慮已經從“今年夠不夠”變成“未來幾年都不能斷”。這也解釋了為什麼三星追上來的消息會被放大：當需求變得更像“長期台階”，客戶自然更渴望多一個穩的供貨口子。而從市場份額的視角看，競爭強度也在上升。Reuters 在 2026 年 1 月初援引 Counterpoint Research 的資料稱，2025 年第三季度 HBM 市場份額中，SK 海力士約 53%，三星約 35%，美光約 11%。格局並非一邊倒，但“領先者的先發優勢”與“追趕者的窗口期”同時存在——HBM4 的認證節點，正好是兩股力量交匯的位置。五、財報電話會那一刻，提問的人只想聽一句“有沒有實錘”半導體行業裡，最有資訊量的往往不是“傳聞”，而是財報電話會上的措辭。因為管理層在那個場合很難隨意許諾：說多了容易被追責，說少了又會被市場按住追問。對於這次 HBM4 的進展，外界真正想確認的其實就幾件事，但問法會很直接：資格測試到底走到那一步了？“下月開始生產”意味著試產、爬坡還是接近穩定量產？如果進入供貨節奏，能不能持續交付、有沒有產能鎖定、有沒有長期協議？這些問題背後指向同一件事——HBM 不是一次性戰役，而是持續交付能力的比賽。而三星自己也在不斷釋放“要把 HBM4 做回來”的訊號。Reuters 1 月初報導提到，三星高層在新年講話中稱客戶稱讚其 HBM4，並提到“Samsung is back”等表述，同時也承認仍需繼續提升性能。這種話放在電話會語境裡，外界往往會盯住兩個點：一是客戶反饋到底對應那一階段（樣品、測試還是量產），二是“進展順利”背後有沒有更具體的時間表。 (視界的剖析)