輝達（NVIDIA）最近的動作，是不是又讓整個AI圈子躁動起來？身為全球市值最高的公司，輝達這次沒有選擇低調行事，而是直接放出一款全新的開源AI模型——Nemotron 3.5 Lightning。這款模型專門設計給「agentic」（自主代理型）AI工作流程使用，換句話說，就是那種需要AI自己規劃、自己執行、還要長時間穩定運作的任務。 這波動作背後，其實藏著執行長黃仁勳一貫的立場：他多次公開力挺「開放權重」（open-weight）AI模型，並強調這正是美國維持AI領先地位的關鍵武器。而這次Nemotron 3.5 Lightning的推出，正好是這個理念的最新實踐。 Nemotron 3.5 Lightning到底是什麼？ 根據輝達官方部落格公布的資訊，Nemotron 3.5 Lightning是Nemotron 3系列模型家族的最新成員，專門針對「長時間運行的agentic AI任務」而生。官方形容它是一款300億參數的「混合專家」（mixture-of-experts）模型，主要用途是在更大型的多代理系統裡，負責處理特定的專精任務，讓整套agentic應用變得更聰明、也更有效率。

開源模型需求持續升溫。 從13億美元到30億美元，Applied Compute只用了大約四個月。 據 The Information 8月10日 報導，Applied Compute正在洽談新一輪融資，擬按約30億美元估值進行融資，較公司今年4月宣佈的13億美元投後估值增長超過一倍。 矽谷投資人Elad Gil正在洽談領投，本輪融資規模預計達到數億美元。

The next AI winner may not be the company with the biggest model. It could be the company that figures out how to get more useful AI for every dollar it spends.Nvidia Corp.(NASDAQ:NVDA) is helping shape that shift by powering more efficient, task-specific AI systems that aim to squeeze more performance out of every GPU cycle. 下一個AI贏家可能並非擁有最大模型的公司，而可能是找到如何讓每投入一美元都能獲得更有用AI的公司。輝達公司（納斯達克：NVDA）正通過為更高效的、面向特定任務的AI系統提供算力支援，推動這一轉變，力求從每個GPU計算周期中搾取更多性能。 DigitalOcean Holdings Inc.(NYSE:DOCN) CEOPaddy Srinivasantold Benzinga in an exclusive email interview that AI builders are increasingly mixing different models for different jobs rather than relying exclusively on expensive frontier systems from companies such as OpenAI and Anthropic. DigitalOcean Holdings Inc.（紐約證券交易所：DOCN）首席執行長Paddy Srinivasan在與Benzinga進行的一次獨家電子郵件採訪中表示，AI開發者越來越多地針對不同任務混合使用不同的模型，而非完全依賴OpenAI和Anthropic等公司提供的昂貴前沿系統。

祖克柏主張允許模型“蒸餾”。停售不停產雪佛蘭在華業務轉為出口。德意志銀行成為歐洲首家人民幣清算行。歐盟新邊境系統致主要機場排隊時間翻倍。工業富聯、超微電腦、騰訊音樂、恆逸石化、愛爾康公佈業績。 Meta Platforms首席執行長馬克·祖克柏(Mark Zuckerberg)發表了一篇6500字的長文，闡述了該公司對人工智慧(AI)競賽的思考及其對社會的意義。祖克柏表示，將把先進AI“作為數十億人都能使用的免費版本提供”。該公司將恢復發佈開放權重模型，這意味著任何人都可以下載這些模型的參數。去年重組AI業務後，Meta暫停了這一做法。祖克柏還主張允許模型“蒸餾”。這是一種頗具爭議的做法——開發者通過向競爭對手的模型發起查詢，來複製其掌握的知識。 估值9650億美元的AI巨頭Anthropic面臨一系列新挑戰，包括中國製造的廉價AI系統近期頗受歡迎，與川普政府的緊張關係，以及全美各地對資料中心建設日益強烈的牴觸情緒。這些挑戰正促使投資者以更挑剔的眼光審視該公司業務。Anthropic正與潛在投資者會面，旨在為其規模可能創歷史紀錄的首次公開募股(IPO)提振信心。該公司向投資者保證其增長步伐依然迅猛，並提出了預計有助於應對公眾對人工智慧(AI)日益強烈牴觸情緒的策略。 英特爾(Intel)已將計畫中的股票發行規模擴大至200億美元，以籌集更多資金為其支出計畫提供支援。這家晶片製造商周一宣佈了一項150億美元的股票發行計畫，並表示，“在人工智慧(AI)計算領域空前投資的推動下”，強勁的客戶需求為公司帶來了巨大的增長機遇。到了周二，該公司宣佈擴大此次發行規模，將以每股95美元的價格發售股票。

Callahan梳理出AI浪潮下三大結構性轉變：智能體（矽基）流量超越人類（碳基）流量（機器人流量已佔全網53%）；光學元器件大幅跑贏記憶體晶片（8月以來領先逾20個百分點）；開源模型以不足閉源8%的成本實現更優性能，直接衝擊閉源商業模式。當前市場被定性為"回歸正常而非繁榮"。 在AI浪潮重塑科技類股格局的關鍵節點，高盛頂級TMT交易員Peter Callahan梳理出10大核心觀察與10張關鍵圖表，勾勒出當前科技投資最重要的結構性轉變：AI智能體（矽基）流量正在超越人類（碳基）流量、光學元器件正在跑贏記憶體晶片、開源模型正在以不足閉源8%的成本實現更優性能——三組對比，折射出AI基礎設施投資邏輯的深層演變。 Callahan在8月9日的報告中對科技類股8月及後續走勢維持開倉性判斷，理由包括倉位結構趨於清潔、技術面壓力緩解、估值相對合理，以及基本面與盈利表現強勁。上周納斯達克100指數單周上漲5%，VIX收於14附近，創年內新低，聯準會政策路徑討論在非農數據公佈後暫退幕後。 在行業層面，本輪業績期進一步拉大了數據基礎設施與開發工具類公司與傳統SaaS應用廠商之間的情緒分化——前者正從AI"逆風"敘事切換至AI"順風"敘事，而後者能否跟上這一敘事轉換，將是接下來市場關注的焦點。與此同時，GPU算力持續緊張、非人類網絡流量佔比突破50%、企業AI預算快速擴張等信號，共同指向一個正在加速成形的"推理經濟"。

大語言模型推理正在同時遭遇容量牆與I/O牆。模型參數持續擴大，長上下文、多輪對話和智能體任務又使KV Cache快速膨脹；MoE模型雖然降低了單次計算的啟動參數量，卻需要保存遠大於視訊記憶體或記憶體容量的專家權重。在雲側算力中心，這一矛盾表現為昂貴的HBM資源被模型權重和KV Cache長期佔用，GPU有效利用率受到資料搬運制約；在邊緣側和端側，有限的DRAM或統一記憶體則直接限制了本地可運行模型的規模。由此，SSD開始從模型檔案的靜態存放裝置進入大模型推理的即時資料路徑，成為HBM、VRAM和DRAM之後的正式記憶體層級。 這一變化最早在推理基礎設施和叢集架構中得到清晰體現。月之暗面的Mooncake採用以KV Cache為中心的分離式推理架構，將GPU叢集中原本未被充分利用的CPU、DRAM和SSD組織為分佈式快取資源[1]；Mooncake Store進一步支援由DRAM與SSD/NVMe構成的多級快取，使冷資料能夠在容量更大、成本更低的快閃記憶體層長期保留[2]。2026年，輝達推出CMX上下文記憶體記憶體平台，在Vera Rubin基礎設施中增加一個面向KV Cache最佳化、通過乙太網路連接的快閃記憶體層級，由BlueField-4負責NVMe SSD管理、資料保護和網路傳輸。輝達將其定義為介於GPU記憶體與共享記憶體之間的pod級上下文層[3]。這些架構釋放出一個明確的產業訊號：SSD正在成為推理系統需要直接調度的資源，而不再只是模型載入前後的外圍裝置。 但推理基礎設施開始呼叫SSD，並不意味著傳統SSD已經適合承擔常駐推理任務。傳統SSD面向檔案和塊資料記憶體設計，其性能指標主要圍繞順序頻寬、隨機IOPS、資料可靠性與單位容量成本展開；LLM推理需要的卻是具有嚴格時序約束的資料供應。KV Cache會在prefill階段集中生成並持續寫入，在後續請求中按會話、模型層和Token位置反覆讀取；MoE推理則需要根據路由結果，在每一層計算前及時取得特定專家權重。一次讀取未能趕上計算窗口，就可能讓GPU、NPU或CPU進入等待狀態，而SSD在高佇列深度下取得的峰值IOPS，並不等同於低佇列深度、細粒度訪問時的穩定延遲。 這種矛盾還延伸至SSD內部。NAND Flash以頁為單位讀取、以塊為單位擦除，FTL需要執行地址對應、垃圾回收和磨損均衡，容易產生寫放大與尾延遲；持續寫入KV Cache還會對快閃記憶體壽命提出遠高於普通消費負載的要求。傳統LBA排布並不瞭解模型層、MoE專家、KV塊及其訪問順序之間的語義關係，相互關聯的資料可能被分散到不同物理位置，難以形成可預測的平行讀取。檔案系統、塊裝置和NVMe軟體棧中的排隊、中斷、資料複製與頁快取，也會增加端到端延遲。如果缺少面向模型執行順序的地址佈局、快取劃分、優先順序調度、非同步預取和壽命管理，SSD雖然擁有TB級容量，卻仍難以像DRAM或VRAM一樣穩定參與每一個Token的生成。

https://news.futunn.com/hk/post/77436051?futusource=news_stock_stockpagenews&ns_stock_id=84477711946167&report_id=75090545&report_type=stock&src=2&stock_news_tab=news&main_broker=WzEwMDFd&hk_cid=16608385&client_hour_clock=24&channel=415&skintype=3&level=1&global_content=%7B%22promote_content%22%3A%22nn%3Apost%3A77436051%22%2C%22invite%22%3A16608385%7D&data_ticket=3064e060312398419d94f9d476dce24f Meta Platforms Inc.(NASDAQ:META) stock traded higher on Monday following several operational updates and strategic announcements released by the company. The Nasdaq is up 0.15% while the S&P 500 has gained 0.17%. Meta Platforms Inc.（納斯達克股票代碼：META）股價周一上漲，此前該公司發佈了一系列運營更新和戰略公告。納斯達克指數上漲0.15%，而標普500指數上漲0.17%。 Zuckerberg Outlines $145B AI Infrastructure Strategy

摘要 推理算力專業化到來。AMD 收購 Taalas 驗證了「模型即晶片」路線的價值，而在中國，⼀家同樣押注極速 AI 推理芯⽚的公司 —— 上海瞬元技術有限公司（ Sytrix ） —— 正沿著這條路線加速落地。它計畫將模型架構和參數直接固化進晶片硬體，讓 Token 成本、推理能耗與時延實現數量級下降，把普惠 AI 帶給每⼀個人。 8 ⽉ 6 日，AMD 宣佈收購人工智慧推理芯⽚領域的先驅 Taalas。 這筆收購指向⼀個明確訊號：AI 算力的重心正在從訓練轉向推理，而推理的終極答案，或許不在通用GPU，而是在⼀塊為模型量身定製的矽片裡。