#AI訓練
•

微軟安排外包人員評估 Microsoft Copilot 的圖片生成與編輯功能

有報導稱傳送給微軟 Copilot 的資訊不具備絕對的私密性。使用者為了改進 AI 性能而輸入的對話提示詞、請求，甚至是隨手上傳的私人照片，其資料在雲端並非完全保密，後台僱傭的真實人類隨時可能對這些私密內容進行逐一審閱和評估。 為了最佳化 Copilot 的圖片生成與編輯效果，微軟僱傭了數百名外包合同工。這些底層審查員在日常工作中被迫承受海量衝擊性內容的轟炸，包括大量低俗、涉嫌“偷拍（upskirt）”的露骨性暗示照片，甚至是潛在違法的動物祭祀影像，這給外包員工帶來了極大的精神創傷與心理壓榨。 (firemail)
微軟安排外包人員評估 Microsoft Copilot 的圖片生成與編輯功能
科技#個資隱私#AI 訓練#數據私密性
•

AI記憶體帳本：訓練、推理與Agent分別需要多少HBM和DRAM

一台AI伺服器很可能先用完記憶體，再用完算力。訓練把權重、啟動值和最佳化器同時堆進HBM；推理讓KV快取隨上下文和並行膨脹；Agent又把狀態佔用拉長到幾分鐘甚至更久。 一、昂貴的GPU為什麼還會停下來等資料 一台裝著高端GPU的伺服器開始工作後，資料會沿著一條很清楚的路徑移動。最熱的權重、啟動值和KV快取留在HBM，CPU正在處理的索引和工具狀態放在系統DRAM，更冷的會話與檢查點繼續下沉到CXL記憶體和SSD。任何一層供數太慢，GPU都只能等待。 記憶體需求因此有四本帳。模型帳記錄權重和執行階段緩衝，訓練帳記錄梯度、最佳化器和啟動值，推理帳記錄每條會話的KV快取，系統帳則裝著資料集、索引、檢查點和工具狀態。四本帳會在同一台機器裡重疊，卻由完全不同的變數驅動。
AI記憶體帳本：訓練、推理與Agent分別需要多少HBM和DRAM
科技#HBM4#AI伺服器#HBM
•

兩個00後給輝達供資料，估值32億美元

5個月，估值漲近10倍。 智東西9月2日消息，今日，據《福布斯》援引兩名知情人士消息，美國AI訓練資料初創公司AfterQuery估值已達到32億美元。一名知情人士稱，該公司目前已經實現盈利，並為新一輪融資確定了領投方。具體融資金額及投資方身份尚未公佈，AfterQuery對此拒絕置評。 五個月前，AfterQuery的估值還只有3億美元，其估值在五個月內增長約10倍。AfterQuery曾入選YC 2025年冬季創業加速項目，YC合夥人格斯塔夫·阿爾斯特羅默（Gustaf Alströmer）稱，該公司從成立到躋身獨角獸僅用了約18個月，是YC歷史上完成這一跨越速度最快的創業公司。 AfterQuery於2025年2月成立，總部位於美國舊金山，併入選YC 2025年冬季批次。該公司聯合創始人斯賓塞·馬蒂加（Spencer Mateega）和卡洛斯·喬治斯庫（Carlos Georgescu）創辦AfterQuery時仍在讀大學，在嘗試開發金融Agent一段時間後，他們將公司轉向為前沿大模型提供專家推理資料、強化學習環境和模型評測服務。
兩個00後給輝達供資料，估值32億美元
科技#AfterQuery#獨角獸#AI訓練
•

為了給機器人囤資料，Figure全球懸賞人類“幹活”

人形機器人距離真正走入現實世界，需要跨過一道關鍵門檻：資料。 過去幾年，AI機器人公司Figure一直試圖打造通用人形機器人智能系統。其推出機器人基礎模型Helix，希望讓機器人具備類似人類的視覺理解、任務規劃和動作執行能力，並逐漸從實驗室走向家庭、工廠和商業環境。 但隨著模型能力不斷提升，一個越來越明顯的問題浮現出來：機器人缺少足夠多的現實世界經驗。 對於大語言模型而言，網際網路提供了海量文字作為學習材料。但機器人面對的是物理世界，需要理解人與物體、環境之間複雜的互動關係。這些能力無法僅靠文字和模擬環境獲得，而需要大量真實世界中的人類行為資料。
為了給機器人囤資料，Figure全球懸賞人類“幹活”
科技#人形機器人#數據採集#具身智能
•

全線沖高！漲停潮，記憶體晶片引爆盤面！全球AI算力部署提速

記憶體晶片概念股再度異動！ 今日（8月5日），A股記憶體晶片概念股大幅走高，江化微、時空科技、博傑股份、中巨芯等直線拉升漲停，中微公司、兆易創新、江波龍、佰維記憶體等紛紛沖高。截至午盤，記憶體晶片類股整體漲幅超過6%，漲停或漲幅超過10%的個股接近30隻。 當天，在韓國證券市場上，SK海力士漲超6%，三星電子漲近4%。隔夜，美股記憶體概念股集體大漲，閃迪漲超10%，美光科技漲超7%，SK海力士ADR漲超8%。 市場分析人士認為，記憶體晶片類股走強主要受基本面驅動。全球AI算力部署提速，持續拉動DRAM需求，當前供給缺口未見縮小，行業量價齊升勢頭明確，頭部廠商盈利屢超預期。多家研究機構預判，DRAM供不應求格局將至少延續至2027年。
A股#AI訓練#DRAM#SK海力士
•

這家公司用遊戲訓練機器人，估值 23 億美元

投資人信了。 兩年前，OpenAI 拿出 5 億美元想買下 Medal，一個遊戲錄影分享平台。創始人 Pim de Witte 拒絕了。 這個決定當時看起來可能有點莽。 General Intuition 創始人 Pim de Witte｜圖片來源：techcrunch
這家公司用遊戲訓練機器人，估值 23 億美元
科技#General Intuition#機器人#訓練資料
•

高盛：中國網際網路行業策略大轉向，雲和資料中心成top pick，超越遊戲

高盛在3季度業績發佈及調研後，對中國網際網路行業策略大轉向：把“雲與資料中心”提到了首選類股，排到了遊戲和出行之前。AI帶來的算力需求和資本開支（Capex）擴張，已經是最確定的增長邏輯了。1、最大預期差：雲與資料中心成為“新王” ☁️高盛這次非常堅決，把雲和資料中心類股從原來的第三提升到第一。邏輯很硬：AI訓練和推理的需求持續爆發，加上巨頭們都在搞“多晶片策略”，資料中心的訂單量非常飽滿。核心邏輯：不僅是輝達，國產晶片的供應上來後，算力基建的利用率和回報率都在提升。2、AI助手的“入口之戰”是個大隱憂 🤖報告專門討論了一個長線風險：字節跳動的“豆包手機助手”。這東西能直接在作業系統層面（OS-level）幫使用者跨APP操作，比如比價、點外賣。這對現有的APP生態是個降維打擊。雖然目前微信等巨頭因為安全隱私原因封鎖了它的介面，但這種“超級AI代理”對使用者流量入口的爭奪，是未來幾年最大的變數。字節系App現在霸榜iOS免費榜前五中的四席，攻勢很猛。3、本地生活：燒錢該結束了，關注利潤修復 🛵外賣和即時零售打得太凶，三季度行業大概虧了700億人民幣，太誇張了。高盛判斷，這種非理性的補貼戰不可持續。格局推演：美團、阿里、京東的市場份額最終可能會穩定在 5:4:1。美團：雖然長期單均利潤預期被微調（從0.8元降到0.7元），但在這個價位，壞消息已經Price-in了，隨著補貼退坡，利潤修復是大機率事件。4、最新的“核心股票池”名單 📝根據最新的類股偏好，高盛更新了首選名單：雲/資料中心：阿里巴巴、萬國資料、世紀互聯。遊戲（防守反擊）：騰訊、網易。出行（格局穩固）：滴滴、滿幫。電商（新面孔）：快手（新增為關鍵推薦，看好其AI模型Kling的突破和電商變現）。5、估值怎麼看？ 📊現在中概網際網路類股的2026年預期市盈率（P/E）中位數大概是18倍。之前的上漲主要靠殺估值修復（Multiple Expansion），接下來的漲幅，必須得靠實打實的每股收益（EPS）增長來驅動了。所以，選利潤兌現能力強的公司，比單純博反彈要穩妥得多。總的來說，風向變了，硬科技基礎設施（資料中心）的優先順序在上升，而純流量變現的生意面臨AI新玩法的挑戰。 (硬AI)
高盛：中國網際網路行業策略大轉向，雲和資料中心成top pick，超越遊戲
科技#高盛#網際網路行業#資料中心
•

4倍性能、50%成本降幅！亞馬遜強勢推出Trainium3晶片，AI訓練推理增添新選項！

當地時間 12 月 2 日，亞馬遜雲端運算服務（AWS）在美國拉斯維加斯舉辦的年度雲端運算盛會“AWS re:Invent 2025”上發佈了全新的自研 Trainium3 晶片，以及採用 Trainium3 晶片的 Trainium3 UltraServer 伺服器。根據首席執行官 Matt Garman 的介紹，新款 Trainium3 晶片的性能是前代產品的 4 倍，並採用台積電 3 奈米工藝製造。每個晶片都配備了 144 GB 的 HBM3E 記憶體，記憶體頻寬為 4.9 TB/s，提供 2.52 FP8 PFLOPs 的算力。（來源：社交媒體 X）Trainium3 UltraServer 單機最多整合 144 顆 Trainium3 晶片，總共配備 20.7 TB HBM3E、706 TB/s 記憶體頻寬，可提供最高 362 FP8 PFLOPS 的算力，時延降低 4 倍，可更快訓練超大模型，並大規模支撐推理服務。其計算性能比 Trainium2 UltraServer 高出 4.4 倍，能源效率高出 4 倍，記憶體頻寬也高出近 4 倍。在使用 OpenAI 的開源大模型 GPT-OSS 進行測試時，Trainium3 UltraServer 的單晶片吞吐量可提升 3 倍，推理響應速度提升 4 倍。這意味著企業可以在更小的基礎設施規模下應對峰值需求，顯著最佳化使用者體驗，同時降低每次推理請求的成本。AWS 以垂直整合方式打造 Trainium3 UltraServer，從晶片架構到軟體棧全鏈路協同。核心之一是新一代網路基礎設施，用於消除傳統分佈式 AI 計算的通訊瓶頸：NeuronSwitch-v1 提供 2 倍 的 UltraServer 內部頻寬；增強型 Neuron Fabric 將晶片間通訊延遲降低至 10 微秒以內。這種強大的配置使得它非常適合處理下一代最前沿的 AI 工作負載，例如：訓練大規模AI模型，可以將複雜模型的訓練時間從數月縮短至數周；處理高並行的 AI 推理請求，以低延遲即時處理數百萬使用者的請求，例如智能對話、視訊生成等；運行特定複雜任務，如智能體系統、專家混合模型和大規模強化學習等。包括 Anthropic、Karakuri、Metagenomi、NetoAI、Ricoh、Splash Music 等客戶，已經借助 Trainium 將訓練和推理成本降低最多 50%。其中，Decart 在即時生成式視訊方面實現了 4 倍推理速度提升，成本僅為 GPU 的一半；而 Amazon Bedrock 已經在生產環境中使用 Trainium3 提供服務。（來源：社交媒體 X）對於需要更大規模的客戶，EC2 UltraCluster 3.0 可連線千台 UltraServer，構成擁有多達 100 萬顆 Trainium 晶片的叢集——是上一代的 10 倍。這使得此前完全不可能的任務成為現實：從在兆級 token 資料集上訓練多模態模型，到為數百萬並行使用者提供即時推理服務。自研晶片是亞馬遜的重要戰略項目之一，目標是避免過度依賴昂貴的輝達硬體。而對於 Trainium3 來說，一個關鍵問題在於：有多少大型外部客戶會願意採用這套硬體。尤其是在Google旗下的 TPU 持續搶佔 AI 晶片市場的背景下。另一個重要變數是 AI 初創公司 Anthropic 的晶片採購分配。今年 10 月，Anthropic 宣佈與Google達成合作，將使用多達 100 萬顆Google TPU 晶片，以實現除亞馬遜和輝達之外的供應多元化。Anthropic 表示，亞馬遜仍是其主要訓練合作夥伴與雲服務提供商。該公司預計，到今年年底，將使用超過 100 萬顆 Trainium 2 晶片，其中包括運行在擁有近 50 萬顆 Trainium 處理器的 Project Rainier 超級電腦之上。此外，AWS 也預告了下一代 AI 訓練晶片 Trainium4的研發進展。其在各方面都將實現大幅性能躍升，包括處理性能（FP4）至少提升 6 倍、FP8 性能提升 3 倍、記憶體頻寬提升 4 倍。結合持續的軟硬體最佳化，其實際性能提升將遠超基準數值。其中，FP8 提升 3 倍是一次基礎性飛躍。模型訓練至少快 3 倍，推理吞吐量也至少提升 3 倍，並且隨著軟體最佳化將獲得進一步加成。FP8 已成為現代 AI 工作負載在精度與效率之間的行業標準格式。為進一步提升單機擴展性能，Trainium4 將支援 NVIDIA NVLink Fusion高速互聯技術。該能力將使 Trainium4、AWS Graviton 處理器及 Elastic Fabric Adapter（EFA）能在統一 MGX 機架內協同工作，為客戶提供支援 GPU 與 Trainium 的成本更優、性能更強的機架級 AI 基礎設施。這一整合將建構一個靈活、高性能的平台，最佳化應對未來對訓練與推理都極其苛刻的 AI 工作負載。 (問芯)
4倍性能、50%成本降幅！亞馬遜強勢推出Trainium3晶片，AI訓練推理增添新選項！
科技#亞馬遜#Trainium 3#AI訓練推理