登入
關鍵字
#推理成本
官方認證
RexAA
2026/10/07
•
Anthropic訂閱方案性價比達OpenAI的5倍以上
測算方法 極限實測 Anthropic、OpenAI、Meta、SpaceXAI、MiniMax、月之暗面(Moonshot)、智譜、Cursor 以及 Cognition 的各項 AI 訂閱方案 Max Kan 與 Dylan Patel 著。訂閱方案目前仍是消費者和小企業為 AI 付費的主要方式。儘管正如我們此前在6月所解釋的那樣,這些方案享受著高額補貼,但作為強大的獲客與行銷工具,它們在經濟層面依然合理。例如,OpenAI 慷慨的額度重設機制所建立的使用者好感,促成了近期 Codex 採用率的激增,並迫使 Anthropic 多次撤回原定的訂閱額度削減計畫,以避免在輿論層面遭受重創。 此外,由於訂閱方案享有極高的補貼,即便它們在總營收中僅佔較小比例,也會對利潤率以及每兆瓦(MW)營收產生顯著影響。以 Anthropic 的大致資料為例。
科技
#AI訂閱方案
#Token限額
#算力補貼
讚
留言
分享
官方認證
RexAA
2026/09/27
•
不會說話的AI,估值14億
導讀 THECAPITAL 爆火的JEV 九月的AI圈本來就不缺熱鬧,幾家大廠的新模型輪番登場,按往年慣例,話題中心應該在它們身上。可過去一週,開發者在X、GitHub和各種技術群裡刷屏討論的,卻是一個連完整句子都不肯說的模型。
科技
#Jev
#TypeSafe AI
#AI模型
讚
留言
分享
官方認證
美股艾大叔
2026/09/20
•
輝達下一條增長曲線浮出水面:AI開始按Token算帳,誰能分走最大蛋糕?
9月,輝達連續釋放兩個明確訊號:Vera Rubin NVL72已進入全面生產,面向低延遲推理的Groq 3 LPX也已投產;最新MLPerf測試中,Vera Rubin NVL72在部分推理任務上的吞吐量達到GB300 NVL72的3.7倍。 輝達講述AI生意的口徑也隨之發生改變,關注點從訓練出多少參數,轉向每兆瓦能夠生產多少Token、服務多少使用者、產生多少收入。這個變化很現實。訓練是一筆階段性資本開支,推理卻伴隨每次提問、每輪程式碼生成和每個Agent任務持續發生。 模型進入企業流程後,呼叫次數、上下文長度與響應速度不僅共同決定了算力消耗,也決定了整個產業鏈的利潤分配。接下來需要研究的更多的是誰能讓Token生產得更快、更便宜,並把這些Token轉化為企業收入。 輝達正在把一次性賣晶片,
科技
#輝達
#AI推理
#Token經濟
讚
留言
分享
官方認證
RexAA
2026/08/05
•
後摩爾時代算力突圍:一家清華系“空間光計算”晶片商的代際躍升
進入2026年下半年,AI算力的敘事正在發生微妙而劇烈的變化。 如果說去年市場還在爭論“算力夠不夠用”時,那麼今年,行業共識已經轉向了另一個更棘手的問題——“算力用得起嗎?” 隨著大模型參數躍升至兆等級,推理成本與能耗也呈現指數級攀升,這正成為吞噬整個產業利潤,並將其消耗在巨大電費和晶片採購單裡的一個隱形枷鎖。 與此同時,當輝達的GPU一卡難求,當智算中心的PUE值成為懸在營運方頭上的達摩克利斯之劍,一個沉默的事實也隨之浮出水面:電晶片的摩爾定律已逼近物理極限,而大模型的規模擴張遠未見頂。 在這個結構性困局中,一家源自清華大學電子系、名為“每刻深思”的公司,正試圖用一種物理學層面的底層創新,繞開傳統電晶片的“死亡之谷”。
科技
#AI算力
#推理成本
#GPU
讚
留言
分享
官方認證
RexAA
2026/08/05
•
口碑持續逆轉,DeepSeek成全球AI斬殺線
長久以來,矽谷廠商主導全球大模型定價權。DeepSeek依靠性能與價格的雙重優勢,在海外開發者市場形成擠壓效應。 這幾天社媒上一張AI漫畫圖非常火,圖中人物雖是梁文鋒,卻進行了漫畫化的處理,外觀形象上尤其像超人等漫畫人物,這被網友們評為,海外開發者眼中的梁文鋒。 這則漫畫想表達的是,7月31日DeepSeek-V4-Flash正式版上線後,以極致性價比扭轉了全球開發者的AI使用格局。 海外獨立大模型評測社區Artificial analysis在實測上百款大模型後,逐步演變出一則圖表,DeepSeek-V4-Flash成為這個圖表中一條分界線。
科技
#AI大模型
#梁文鋒
#DeepSeek
讚
留言
分享
官方認證
RexAA
2026/07/22
•
AI「斯普特尼克時刻」!Kimi K3震動矽谷,Stability AI聯合創始人:推理成本還有10至50倍下降空間
開源Kimi K3打破矽谷雙頭壟斷,引爆AI界「斯普特尼克時刻」!大模型以1%成本步入「精密製造」時代。未來推理成本將暴跌50倍,端側智能全面爆發。前沿模型加速淪為「易耗品」,應用介面層成最大贏家,企業資產迎來重估風暴。 隨著月之暗面(Moonshot AI)發佈擁有 2.8 兆參數的開源模型 Kimi K3,矽谷迎來了 AI 領域的「斯普特尼克時刻」。 在最新一期《Moonshots》訪談中,Peter Diamandis、Emad Mostaque(前 Stability AI 聯合創始人)等五位科技領袖深入探討了 Kimi K3 打破傳統閉源雙頭壟斷的行業震動,指出大模型演進已進入「前沿製造業」階段,並預測在硬體適配、軟件優化與極端量化(如三元量化、亞位元量化)的推動下,未來幾個月內 AI 推理成本將迎來 10 至 50 倍的爆發式下降,最終加速高階智能在私有化部署與端側設備上的全面普及。 核心要點
科技
#Kimi K3
#Stability
#推理成本
讚
留言
分享
官方認證
RexAA
2026/03/11
•
爆了!1分鐘養上龍蝦
一覺醒來,身邊的人都在養龍蝦?僅僅不到一周,OpenClaw在中文網際網路世界快速吸引了一波關注,前有上門安裝龍蝦爆賺幾十萬,公司樓下大排長龍,接著大廠們相繼發力推出競品,各省市甚至親自下場送補貼。股市情緒稍微好轉,AI鏈相關產業徹底漲瘋了,雲服務、算力租賃類股連續強勢。港股MiniMax漲超20%,市值再創新高,智譜漲超10%,剛推出WorkBuddy的騰訊因為訪問量太大,算力一下子承受不住還要緊急擴容,盤中一度漲超7%...OpenClaw,難道要複製一把去年DeepSeek?01 全線反彈戲劇性反轉主導了隔夜市場和今天的反彈行情,總結一句話就是:美國總統川普暗示戰事或將結束,這番表態迅速壓制了市場對中東衝突的恐慌預期。油價跌了,納指、歐洲股指全線反彈。亞太更誇張,早盤日經強勁拉升超3%,韓國KOSPI指數飆漲逾6%。期指因盤中漲幅突破5%而觸發熔斷。A股市場也順勢迎來集體高開,風險偏好有所回升。類股方面,光纖、PCB等AI科技成長股集體大漲,早前因避險情緒高漲的石油天然氣與能源裝置類股,則隨著油價回落而集體走弱。與此同時因為OpenClaw走紅,推動算力租賃、雲端運算類股繼續走強,優刻得漲超10%,科華資料、寧波建工漲停,網宿科技、順網科技、青雲科技、金開新能、彩訊股份跟漲。消息面上,今天OpenClaw生態又迎來重磅產品。大模型公司智譜發佈AutoClaw,中文暱稱「澳龍」,直接把OpenClaw打包成一鍵安裝的桌面應用。下載、連按兩下、登錄,1分鐘搞定,直接終結原來大排長龍,甚至花高價養龍蝦的局面。OpenClaw的火爆也傳導至A股公司,目前萬興科技、優刻得-W、順網科技、中科創達、拓維資訊、瑞芯微等公司紛紛公開披露有關OpenClaw的業務動態。在OpenClaw的身上,散戶們彷彿看到了去年DeepSeek的影子。02 OpenClaw 蝴蝶效應OpenClaw(曾用名 Clawdbot、Moltbot)是一款開源AI智能體,因圖示為紅色龍蝦而得名“龍蝦”。(tbbbk)與對話式的大模型產品截然不同,它是一款開源、本地優先的AI Agent框架,通過整合多管道通訊能力與大語言模型,支援在雲端和本地部署。很多人體驗龍蝦的目的,就是為了建構一款自動化的AI個人助手,把需要的權限開放給他,他就能全權接管幫你幹活,符合絕大多數人心目中未來AGI的樣子。發佈僅四個多月,OpenClaw便創造了最快登頂GitHub星標榜的歷史——以超過24.8萬的GitHub星標數,超越Linux成為GitHub平台上最受歡迎的開放原始碼專案。可以說,這是一款具備殺手級應用潛質的產品。Agent框架的實現,讓大模型徹底跳出聊天窗口,擁有自動化執行的能力。和前兩年我們還得在大模型對話窗口上傳檔案和提示詞完全不是一個層次,現在它自己就可以呼叫需要的任何檔案。因為支援在本地儲存配置資料和互動歷史,從而擁有較持久的記憶能力,想要嘗鮮的網友都想要在本地部署,一度把蘋果家的Mac Mini搶斷貨了。這,還只是OpenClaw蝴蝶效應掀起的一點漣漪。但真正讓OpenClaw在中國爆火的,是中國從“Token出海”(算力-電力),大廠親自下場部署、各省市真金白銀政策支援,一周內一系列動態疊加引發了海嘯般的轟動。首先,政策跟進速度快得難以置信。3月7日,深圳龍崗區發佈專項措施,稱為“龍蝦十條”,鼓勵提供免費OpenClaw部署服務,會選出一些應用項目進行獎勵補貼,還將於3月14日下午舉辦“千人龍蝦大會”。大會由龍崗區聯合Kimi共同打造,除Kimi工程師團隊為使用者免費安裝OpenClaw,並行放Kimi Claw免費體驗資格外,Kimi還將上線API龍蝦專屬優惠,提供最高40%的充值返券補貼,助力企業部署龍蝦應用。深圳龍崗之後,無錫、寧波、合肥、常州等市紛紛跟進,也推出了類似的“養龍蝦”政策,鼓勵企業和個人開發者部署。其次,面對這一超級流量入口,網際網路大廠展開了激烈的入口爭奪戰。騰訊雲通過輕量應用伺服器Lighthouse推出5分鐘一鍵部署範本,甚至線上下“擺攤”獲客,引發使用者排隊安裝,據悉雲上“養蝦人”規模迅速突破10萬並持續上升。阿里雲、移動雲、天翼雲、京東雲、火山引擎、百度智能雲在內的中國雲廠商紛紛接入。賦能雲業務顯然未能滿足大廠的目標,它們都能在自己的生態內搭建類似的Agent工具,在模型服務上進行延伸。僅一周,騰訊、字節、阿里、小米火速宣佈推出各自的"小龍蝦"產品。有大模型和算力加持的騰訊WorkBuddy繫結了企業微信,同時無縫接入QQ、飛書、釘釘等工具,中國版可以切換Hunyuan、DeepSeek、GLM、Kimi、MiniMax等大模型。這意味著,那怕你在外通勤,只需掏出手機發條語音,它就能在你的辦公電腦上自動查資料、寫推文,直接交付可驗收的結果。據說,WorkBuddy上線訪問量遠超預期,導致核心服務瞬時壓力過大,公司致歉已緊急擴容10倍。但要說最有參與感的,還是現在的大模型公司。首先在OpenClaw的帶動下,中國國產模型呼叫量在全球平台OpenRouter上交替登頂。“龍蝦”幹活的底層邏輯還是在燒token。而OpenClaw對token的巨額消耗也放大了中國國產模型能力、成本的綜合優勢,帶動中國國產大模型在海外市場的規模化呼叫。除了前面的智譜,MINIMAX也推出了MaxClaw,Kimi推出了KimiClaw,都是主打一個快速部署,以OpenClaw生態接入的先發優勢推動模型的呼叫與使用。03 DeepSeek時刻重演?Token消耗的誇張程度,令到模型公司的算力資源都一度承壓,被市場寄予拉動算力需求的預期,A股算力租賃類股連漲兩日。其中,“Token出海”的敘事引來很大關注。我們在《賽道牛股頻出,下一個千億龍頭是它?》提到過,中國AI模型呼叫量的異軍突起,背後不僅僅是簡單的模型競爭力在贏,背後必須依託龐大且低成本的國家能源基礎設施,向全球AI社區進行著價值輸出。未來決定AI 商業可行性的,並非模型越大越好,而是看推理電效——每一瓦時電力能產出多少推理結果。政策給出了新的解題思路,2026年政府工作報告首提“算電協同”,明確“實施超大規模智算叢集、算電協同等新基建工程”,成為新型基礎設施建設的重要方向。其核心邏輯是通過算力最佳化電力調度、通過電力保障算力需求,實現兩者深度融合。據機構測算,千兆級全球日均token用量對中國電量和電力或有10%等級彈性,對綠證價格、容量電價甚至電量電價的拉動顯著。低估值的綠電,有望充分受益於AIDC清潔能耗需求;根據測算,中國2026-2030年綠電需求增厚4%-33%,利多本就折價的綠證價格。因此,電力類股持續發酵,韶能股份、銀星能源、協鑫能科、國南電瑞、中國西電等表現都很強勢。話又說回來,對於普通使用者來說,養龍蝦可能不會太花電費,但給龍蝦喂token是要花上不少錢的,這是很明顯感受得到的。Token的爆發式增長背後是實打實的算力需求。輝達CEO黃仁勳指出,智能體僅需一系列提示詞,就能執行原本需要大量時間和專業知識的任務,這導致token消耗量激增了約1000倍,直接製造了一個“算力真空”。這個預判基礎建立在,通常情況下,問答類Chatbot每輪對話僅消耗數百Token,但是OpenClaw則需要持續在後台執行任務,包括資訊檢索、文件生成、程式碼編寫、偵錯與最佳化等等,每一步都伴隨著大量的Token消耗。有使用者反映,搜尋資訊、寫一篇2000字文件可燒掉700萬Token;運行一個簡單爬蟲測試竟耗費2900萬Token;單日燒掉5000萬Token的案例屢見不鮮。龍蝦對飼料的需求太大了,模型廠推出的這些定價策略,包月服務也給了優惠,每月提供數萬次的api請求服務看似海量,實際幾天之內就能見底。這一幕的推演,跟2025年年初的DeepSeek如出一轍。便宜的推理成本,雲廠商搶著部署,算力租賃的生意越做越火。但是,OpenClaw並非毫無缺陷,我們現在看到的算力需求暫時是被放大的。迭代至今不到四個月,OpenClaw在Token消耗與實際產出之間的效率比仍有巨大最佳化空間。但我們只是看到了它的成功案例,可能忽視掉絕大多數不成熟的使用體驗,譬如任務執行過程中可能莫名中斷;記憶功能不穩定,有時會“忘記”之前的偏好。更嚴重的,OpenClaw的安全防護機制遠沒有跟上能力擴張的步伐,海外科技大廠已相繼在內部封禁OpenClaw。許多人應該都在猶豫要不要養龍蝦,借OpenClaw的創始人Peter Steinberger的話來說:“如果你不懂命令列,這個項目對你來說風險太大。”總的來說,隨著OpenClaw生態的進一步完善,算力需求的量級躍遷從長期來看很有可能會實現,但短期我們看到的是一個夾雜著許多噪音,過分“神話”的新概念,切勿因FOMO管不住錢包,包括股市。 (格隆匯APP)
科技
#OpenClaw
#推理成本
#AI
讚
留言
分享
官方認證
RexAA
2026/01/06
•
已編輯
【CES 2026】輝達發佈新一代Rubin平台,推理成本較Blackwell降10倍,擬下半年出貨
Rubin平台的訓練性能是Blackwell的3.5倍,運行AI軟體的性能則提升5倍,訓練混合專家模型所需GPU數量減少4倍。黃仁勳稱,全部六款Rubin晶片已通過顯示其可按計畫部署的關鍵測試。輝達稱該平台已全面投產,亞馬遜AWS、Google雲、微軟和甲骨文雲等雲服務商將率先部署。輝達在CES展會推出新一代Rubin AI平台,標誌著其在人工智慧(AI)晶片領域保持年度更新節奏。該平台通過六款新晶片的整合設計,在推理成本和訓練效率上實現大幅躍升,將於2026年下半年交付首批客戶。美東時間5日周一,輝達CEO黃仁勳在拉斯維加斯表示,六款Rubin晶片已從合作製造方處回廠,並已通過部分關鍵測試,正按計畫推進。他指出"AI競賽已經開始,所有人都在努力達到下一個水平"。輝達強調,基於Rubin的系統運行成本將低於Blackwell版本,因為它們用更少元件即可實現相同結果。微軟和其他大型雲端運算提供商將成為下半年首批部署新硬體的客戶。微軟的下一代Fairwater AI超級工廠將配備輝達Vera Rubin NVL72機架級系統,規模可擴展至數十萬顆輝達Vera Rubin超級晶片。CoreWeave也將是首批提供Rubin系統的供應商之一。該平台的推出正值華爾街部分人士擔憂輝達面臨競爭加劇,並懷疑AI領域的支出能否維持當前速度。但輝達保持長期看漲預測,認為總市場規模可達數兆美元。性能提升瞄準新一代AI需求據輝達公告,Rubin平台的訓練性能是前代Blackwell的3.5倍,運行AI軟體的性能則提升5倍。與Blackwell平台相比,Rubin可將推理token生成成本降低至多10倍,訓練混合專家模型(MoE)所需GPU數量減少4倍。新平台配備的Vera CPU擁有88個核心,性能是其替代產品的兩倍。這款CPU專為代理推理設計,是大規模AI工廠中能效最高的處理器,採用88個定製Olympus核心、完整Armv9.2相容性和超快NVLink-C2C連接。Rubin GPU配備第三代Transformer引擎,具備硬體加速自適應壓縮功能,可提供50 petaflops的NVFP4計算能力用於AI推理。每個GPU提供3.6TB/s的頻寬,而Vera Rubin NVL72機架則提供260TB/s頻寬。晶片測試進展順利黃仁勳披露,全部六款Rubin晶片已從製造合作夥伴處返回,並已通過顯示其可按計畫部署的關鍵測試。這一表態表明輝達正維持其作為AI加速器領先製造商的優勢地位。該平台包含五大創新技術:第六代NVLink互連技術、Transformer引擎、機密計算、RAS引擎以及Vera CPU。其中第三代機密計算技術使Vera Rubin NVL72成為首個提供跨CPU、GPU和NVLink域資料安全保護的機架級平台。第二代RAS引擎橫跨GPU、CPU和NVLink,具備即時健康檢查、容錯和主動維護功能,以最大化系統生產力。機架採用模組化、無線纜托盤設計,組裝和維護速度比Blackwell快18倍。廣泛生態系統支援輝達表示,包括亞馬遜的AWS、Google雲、微軟和甲骨文雲在2026年將率先部署基於Vera Rubin的實例,雲合作夥伴CoreWeave、Lambda、Nebius和Nscale也將跟進。OpenAI CEO Sam Altman表示:“智能隨計算擴展。當我們增加更多計算時,模型變得更強大,能解決更難的問題,為人們帶來更大影響。輝達Rubin平台幫助我們持續擴展這一進展。”Anthropic聯合創始人兼CEO Dario Amodei稱,輝達“Rubin平台的效率提升代表了能夠實現更長記憶、更好推理和更可靠輸出的基礎設施進步”。Meta CEO祖克柏表示,輝達的“Rubin平台有望帶來性能和效率的階躍式變化,這是將最先進模型部署給數十億人所需要的”。輝達還稱,思科、戴爾、惠普企業、聯想和超微預計將推出基於Rubin產品的各類伺服器。包括Anthropic、Cohere、Meta、Mistral AI、OpenAI和xAI等AI實驗室正期待利用Rubin平台訓練更大型、更強大的模型。提前公佈產品細節評論稱,輝達今年比往年更早披露新產品的細節,這是該司保持行業依賴其硬體的舉措之一。因為輝達通常在每年春季加州聖何塞舉行的GTC活動上深入介紹產品細節。對黃仁勳而言,CES只是其馬拉松式出席活動的又一站。他要在各類活動中宣佈產品、合作和投資,均旨在為AI系統部署增添動力。輝達公佈的新硬體還包括網路和連接元件,將成為DGX SuperPod超級電腦的一部分,同時也可作為單獨產品供客戶以更模組化的方式使用。這一性能提升是必需的,因為AI已轉向更專業化的模型網路,不僅要篩選海量輸入,還需通過多階段流程解決特定問題。輝達正在推動面向整個經濟領域的AI應用,包括機器人、醫療保健和重工業。作為這一努力的一部分,輝達宣佈了一系列旨在加速自動駕駛汽車和機器人開發的工具。目前,基於輝達的電腦支出大部分來自少數客戶的資本支出預算,包括微軟、Alphabet旗下的Google雲和亞馬遜旗下的AWS。 (invest wallstreet)
科技
#輝達
#Rubin平台
#推理成本
讚
留言
分享