周末總結:OpenAI塌房、MLCC、大模型公司自研晶片、韜定律

OpenAI塌房?

今天有很多媒體都在發下面這個新聞,只能說這些媒體簡直毫無下限。

我們講一下來龍去脈:

所謂“Scaling Law 被爆 bug”,並不是說大模型規模化路線被證偽了,而是早期 Scaling Law 在“算力應該怎麼分配”這個問題上,後來被認為存在明顯偏差。2020 年 OpenAI 的 Kaplan 論文證明了一個重要規律:在架構和資料分佈大體穩定的情況下,模型參數、訓練資料和計算量擴大之後,語言模型的 loss 會按相對可預測的方式下降。這個發現非常重要,因為它讓大模型訓練從經驗試錯進入了更可規劃的階段,也為後來持續擴大模型規模提供了理論支撐。

但 Kaplan 當時還有一個更具體的結論:如果算力預算固定,最優做法應該偏向訓練更大的模型,而不是給模型喂更多資料;同時模型也不必訓練到完全收斂。這個判斷後來影響很大,GPT-3 那一代模型基本就是這種思路的代表。GPT-3 參數規模達到 1750 億,但訓練 token 大約 300B。放在當時,這已經是很大的訓練量;但放到後來的 Chinchilla 標準看,它其實是典型的“大模型、少資料”,也就是模型很大,但沒有吃夠資料。

問題就出在早期實驗設計上。Kaplan 的實驗裡,不同規模的模型使用了接近固定數量的訓練 token。這樣一來,小模型在同樣的資料量下可以被訓練得相對充分,而大模型因為容量更大,反而處在欠訓練狀態。如果只看這個實驗結果,就很容易得出一個誤判:大模型繼續增加訓練資料的收益不高,似乎把算力更多投向參數規模更划算。

另外一個關鍵因素是學習率調度。Kaplan 實驗使用了 cosine learning rate decay,也就是訓練越往後,學習率逐漸衰減到很低。學習率降下來以後,模型繼續學習的速度自然會變慢,loss 曲線也會看起來趨於平緩。這種平緩不一定代表模型真的接近極限,也可能只是學習率太低,模型已經很難繼續有效吸收資料。固定 token 數和學習率衰減疊加在一起,就可能製造出一種“繼續加資料沒太大用”的假象。

2022 年 DeepMind 的 Chinchilla 論文修正了這個判斷。Chinchilla 的核心結論是,很多大模型並不是參數不夠,而是訓練資料不夠。在算力最優的情況下,模型參數和訓練 token 應該大致同步擴張。也就是說,模型變大時,不能只增加參數,也要相應增加訓練資料。Chinchilla 本身只有 70B 參數,比一些前代大模型小很多,但因為訓練 token 更多,在不少任務上反而表現更好。這個結果說明,早期“參數越大越優先”的路線並不是最優解。

所以,這次所謂的“bug”,本質上不是 Scaling Law 本身失效,而是早期版本對“參數、資料、算力三者關係”的理解不夠準確。Scaling Law 仍然成立,它仍然說明模型能力可以隨著資源投入呈現可預測的提升趨勢;但它不能被簡單理解成“只要把模型做得更大就行”。真正重要的是,在給定算力預算下,參數規模、訓練 token、資料質量、訓練策略之間要配平。

再看 MLCC

最近什麼話題最火?其實大家可以多看下分析師的研報和他們組織的專家會議和路演會議,那個話題最近被頻繁提到就是最火的,也是他們最看好的。MLCC明顯就是近期最熱的話題。星球中今天放了接近30篇MLCC的報告和紀要。

這一輪 MLCC 漲價的核心,不是消費電子補庫存,而是 AI 伺服器把高容、小尺寸、高可靠性的有效產能打緊了。傳統通用伺服器大約只用 1800-2500 顆 MLCC,AI 八卡伺服器提升到 1.5-2.5 萬顆,GB200/GB300 單卡約 3000 顆,GB300 單機櫃約 40-45 萬顆,下一代 Rubin 機櫃可能進一步到約 60 萬顆。更關鍵的是,AI 伺服器用的不是普通低端料號,而是低電壓、大電流、小尺寸、高容量產品,良率、裝置、粉體和工藝要求都更高,實際佔用的有效產能明顯放大。因此即便 AI 需求在全球總顆數里佔比未必最高,也足以改變高端 MLCC 的供需結構,並把普通高容產品的供給擠出來。

價格端已經先從現貨市場反映出來,再逐步向原廠和終端傳導。管道端 MLCC 現貨平均漲幅約 30%-70%,部分規格漲到 2-3 倍,高容產品現貨端部分已漲到約 5 倍;原廠端則從取消專案價、延長交期、減少返利,走向部分料號正式漲價,三星 2026 年二季度對代理商管道約 20% 的料號上調 15%-40%,國巨 7 月漲價約 25%,國內廠家像三環,也一直在調高AI這塊的產能。所以這輪行情更準確的定義,是“AI 高端料號緊缺 + 普通高容產能被擠出 + 管道情緒放大”的結構性周期,而不是全品類無差別通膨。後續最重要的驗證點,是村田、三星、太陽誘電是否繼續擴大漲價範圍,GB300/Rubin 的放量是否兌現,以及管道庫存有沒有從低位快速累積。

大模型公司自研晶片

OpenAI 已經和博通合作開發定製 AI 加速器,目前已經回片;國內某大模型廠商也在自研中,周末又有新聞說Anthropic與三星洽談定製 AI 晶片,說明頭部模型公司的競爭正在從“誰的模型更強”,進一步變成“誰能控制更穩定、更便宜、更適合自己模型的算力底座”。

Claude 這類模型越往後發展,推理成本、長上下文、Agent 呼叫、多輪工具鏈都會讓算力消耗快速放大,單純買輝達 GPU 或租雲,很難在成本和供給上形成長期優勢。定製晶片不一定馬上替代輝達,但可以先在推理場景切入,把模型結構、算子、HBM、片間互聯和能耗做成更貼合自身業務的系統。對三星來說,意義更直接:它需要一個頭部 AI 客戶來證明自己的先進製程、先進封裝、HBM/儲存協同和 Foundry 能力。如果 Anthropic 這樣的模型公司願意把定製晶片交給三星推進,三星拿到的不只是一個訂單,而是一個進入 AI ASIC 核心供應鏈的標誌性樣板。

這裡說一下三星的情況,之前的文章星球中也都說過,輝達最新的LPU是採用三星的4nm工藝,再加上三星給NV的Memory,所以Rubin這一代,三星在NV的價值量是超過了台積電的;當前是第三代LPU了,收購groq前,已經做了兩代,LPU的c2c互聯採用的是alphaweave(去年被高通收購)的IP,並沒有用nvlink;但到了第四代LPU,NV還是會換回台積電去代工,並把c2c換回nvlink。

華為再提“韜定律”

華為第一次提這個概念時,引起了軒然大波,有肯定也有質疑。

這次再提“韜定律”,重點不是重新定義這套理論,而是把上一輪偏方法論的框架往工程驗證推進了一步。V1 版已經提出了“時間微縮”替代“幾何微縮”的思路,也已經把路徑拆成電晶體、電路、晶片、系統四個層面:不只靠先進製程縮小電晶體,而是通過新器件、邏輯折疊、3D 異構整合和系統級互聯來縮簡訊號傳輸時間。

V2 版的變化在於,它不再只是講這套框架為什麼成立,而是開始回答“先在那裡落地、效果有多大、難點在那裡”。這次最核心的抓手是邏輯折疊:通過混合鍵合把原本平面上的關鍵路徑折到三維結構裡,先折疊決定主頻的長路徑,再逐步走向更大規模的多層折疊。2026 款麒麟晶片已經採用關鍵路徑優先折疊方案,在工藝節點不變的情況下,電晶體密度從每平方毫米 1.58 億個提升到 2.3 億個,主頻達到 3.1GHz,核心能效提升約 40%,面積縮小約 50%,SRAM 頻率提升超過 40%。這組資料的意義在於,華為試圖證明“時間微縮”不是概念替代,而是可以在現有製程約束下,通過電路和封裝結構繼續擠出性能。 (傅里葉的貓)