#AI成本
•

一個Token是怎麼“造”出來的？黃仁勳的“五層蛋糕”理論給出答案

你在聊天框裡敲下一句話，等上幾十毫秒，螢幕上便出現一段看似流暢的回答。對絕大多數使用者來說，這是一個十分輕量化的過程。可到了付款頁面，許多使用者會有一種遭到“背刺”的感覺——輸入多少百萬Token、輸出多少百萬Token、上下文多長、快取是否命中。 這時，很多人會有這樣的疑問：為什麼一個看不見、摸不著的回答，要按量收費？為什麼AI公司不能像賣傳統軟體那樣，一次授權、無限複製？ 這裡至少混著三張不同的帳單。 第一張是生產成本：造出一個Token，底層到底消耗了多少電力、晶片、機房和工程資源；
一個Token是怎麼“造”出來的？黃仁勳的“五層蛋糕”理論給出答案
科技#黃仁勳#Token經濟#AI成本結構
•

知名投資人Gavin Baker重磅發聲：一座500億美元的資料中心，不到一年就能回本，AI真正的問題不是過度建設，而是建設不足

隨著AI建設熱潮持續升溫，市場對算力過剩和AI泡沫的擔憂也在積聚。但Atreides Management創始人兼首席投資官Gavin Baker在8月31日播出的a16z 部落格中給出了相反判斷。 Baker認為，真正的風險可能是建設不足，全球知識工作者有15億人，AI需求擴散才剛剛開始。若供給嚴重短缺，AI訪問成本可能不降反升，最終造成“算力不平等”。 需求爆發，供給受多重約束 Baker最核心的判斷是：AI需求在加速，但供給端跟不上，電力、晶圓、銅、施工、審批，每一環都在拖慢算力落地的速度。
科技#Gavin Baker#AI#AI泡沫
•

每月“燒掉”一套房？巨頭被逼降價

“性價比只是中國大模型出海的開始。” “沒人抱怨人工智慧的成本，直到帳單貴得離譜。”這是美國創業者Ben Cera 7月底在社交媒體發佈的帖文。 過去一段時間，這是不少美國開發者、企業的共同感受，中國的開源模型以極高的性價比將他們從高昂的人工智慧帳單中“拯救”出來。 當更多使用中國大模型的聲音從美國傳來，人們甚至描繪出一幅圖景，中國的大模型像其他中國商品一樣，以性價比優勢席捲全球，甚至倒逼OpenAI、Anthropic等美國巨頭降價。
每月“燒掉”一套房？巨頭被逼降價
科技#AI成本#Token#AI大模型
•

OpenAI、Anthropic推出新指標——“cost-per-task”，以更好衡量AI成本

OpenAI與Anthropic正推動AI定價標準從“每token成本”轉向“每任務成本（cost-per-task）”，強調高溢價模型能一次性高效完成任務，從而降低綜合成本。第三方機構Ramp資料亦顯示，Anthropic最貴模型Fable 5僅佔其軟體支出的11%，表明企業為高溢價AI付費已觸及上限。 在AI模型價格戰進入白熱化之際，OpenAI與Anthropic正聯手改寫行業衡量模型價格的底層標尺——從“每token成本”轉向“每任務成本（cost-per-task）”，試圖在企業客戶面前為自身高溢價模型重建價值坐標系。 過去數周，兩家美國AI龍頭相繼發聲。OpenAI首席財務官Sarah Friar在7月的部落格中寫道，低成本模型token雖便宜，但得到好結果“可能需要更多嘗試、更多時間或更多人工審查”；Anthropic金融服務主管Jonathan Pelosi在近期採訪中表示，token成本只是衡量消耗了多少AI算力的“代理指標”，“對每家企業而言，更好的代理指標是完成任務的實際成本”。 這場定價敘事之爭的直接背景，是Meta、SpaceX等廠商正以極低的token價格擠壓市場。據企業支出管理平台Ramp的資料，近幾個月企業對OpenAI與Anthropic的採用已有所放緩，現有客戶正越來越多地轉向更便宜的開源替代方案。
OpenAI、Anthropic推出新指標——“cost-per-task”，以更好衡量AI成本
科技#OpenAI#Anthropic#AI定價標準
•

降低「AI成本」大勢所趨！Meta要做「模型路由」，復刻OpenRouter

據報導，為降低AI推理成本，Meta正復刻OpenRouter，開發模型路由工具Switchboard。其核心是通過評估任務難度，將簡單請求分流至廉價小模型，避免大模型算力浪費。該工具不僅用於內部降本，未來或對外發布，成為Meta開闢新收入來源的嘗試。 在AI基礎設施支出持續膨脹的壓力下，$Meta Platforms (META.US)$正試圖從內部尋找降本之道。 7月21日，據科技媒體The Information報導，Meta內部AI孵化器AAI Labs正在開發一款名為"Switchboard"的AI模型路由工具，其核心邏輯與OpenRouter的Auto Router產品高度相似——通過對任務難度評分，將簡單請求分流至更廉價的小模型，從而降低整體推理成本。 Switchboard目前仍處於早期階段，能否最終落地尚不確定。但據The Information獲得的內部檔案顯示，Meta團隊已明確提出兩條潛在路徑：一是在公司內部部署以壓縮成本，二是面向大規模運行AI編程智能體的外部組織公開發布。
科技#AI成本#Meta#OpenRouter
•

算力成本從GPU單點向全端擴散：AI產業成本範式重構與行業破局路徑

一、核心結論：算力成本 邏輯徹底切換，單一GPU不再是成本核心約束 在大模型早期預訓練階段，行業普遍將算力成本等同於GPU硬體採購成本，企業競爭焦點集中在高端GPU備貨量、單卡租賃單價，算力成本結構高度單一，GPU佔據整體TCO（總擁有成本）70%以上，儲存、網路、機房配套、CPU、維運等環節被視作次要配套支出，長期處於成本分析盲區。 進入2026年，伴隨兆參數大模型規模化訓練、長上下文推理、AI智能體（Agent）、多模態生成等業務全面落地，算力需求從“單次大規模訓練”轉向“7×24小時持續推理、多工具聯動、海量資料持久快取”，算力約束從GPU單點瓶頸演變為**計算、記憶體、儲存、高速互聯、供電散熱、機房土建、軟體調度、人力維運**全鏈條系統性瓶頸。直觀資料印證這一趨勢：新一代Vera Rubin整機中，GPU物料成本佔比從前代GB300的65%下滑至51%，記憶體、高速網路、供電冷卻、CPU配套合計成本佔比提升近30個百分點，算力成本完成從單點向全端的全面擴散。
算力成本從GPU單點向全端擴散：AI產業成本範式重構與行業破局路徑
科技#AI成本#算力成本#GPU
•

黃仁勳：1GW工廠成本約1000億美元，AI成本持續抬升

輝達首席執行長黃仁勳最新表示，基於NVIDIA架建構設的1GWAI工廠，成本可能接近1000億美元。 這一數字如果放在傳統資料中心語境下非常誇張，但放在AI訓練、推理和智能體工作負載快速擴張的背景下，它反映的不是單一晶片漲價，而是AI基礎設施進入“吉瓦級資本開支”階段。 全球資料中心年新增裝機預測,2025年18GW逐年升至2030年34GW,其中美國貢獻超60%,2026年美國單年新增17GW為增速高點。資料來源:伯恩斯坦及伊頓測算 最新報導提到，過去市場對1GW AI工廠成本的估算大約在500億至600億美元，其中約350億美元可能對應NVIDIA硬體；
黃仁勳：1GW工廠成本約1000億美元，AI成本持續抬升
科技#黃仁勳#AI成本#1GWAI工廠
•

Token吃掉三成工資！矽谷AI帳單失控了

Token單價暴跌到不足1美元，總帳單卻在爆炸——這是AI經濟學裡最反直覺的一幕。 每百萬Token只花0.99美元。 這是SemiAnalysis——矽谷最硬核的半導體研究機構——自己帳單上的真實成本。 但更炸裂的是這個數字：內部大模型Token支出，已經佔到員工總薪資的30%。
Token吃掉三成工資！矽谷AI帳單失控了
科技#Token#矽谷#AI成本