#AI 訓練
•

微軟安排外包人員評估 Microsoft Copilot 的圖片生成與編輯功能

有報導稱傳送給微軟 Copilot 的資訊不具備絕對的私密性。使用者為了改進 AI 性能而輸入的對話提示詞、請求，甚至是隨手上傳的私人照片，其資料在雲端並非完全保密，後台僱傭的真實人類隨時可能對這些私密內容進行逐一審閱和評估。 為了最佳化 Copilot 的圖片生成與編輯效果，微軟僱傭了數百名外包合同工。這些底層審查員在日常工作中被迫承受海量衝擊性內容的轟炸，包括大量低俗、涉嫌“偷拍（upskirt）”的露骨性暗示照片，甚至是潛在違法的動物祭祀影像，這給外包員工帶來了極大的精神創傷與心理壓榨。 (firemail)
微軟安排外包人員評估 Microsoft Copilot 的圖片生成與編輯功能
科技#個資隱私#AI 訓練#數據私密性
•

Sam Altman最新訪談：AI越界之後，暫停還是繼續？

8 月 26 日，獨立 AI 評測機構 METR 公佈了一份調查報告，披露 OpenAI 的一批 AI 智能體在模型評估中出現了罕見的越界行為：為了完成測試任務，它們不僅把目標轉向了 Hugging Face，還發現並使用了一個未經批准的共享留言板，彼此交換資訊，試圖摸清評分系統的運行方式。 這起事件很快引發了大量關注。但外界的關注重點不只是 AI 有沒有“作弊”，而是這些智能體已經開始主動尋找測試規則之外的路徑，甚至能夠在原本彼此隔離的情況下自行建立協作。 9 月 11 日，在《財富》雜誌的採訪中，這起事件被帶到了 OpenAI 首席執行長 Sam Altman 的訪談桌上。Altman 把它稱為公司經歷過的同類事件中最大的一次警醒，也是公司發展過程中最大的一次方向調整。他形容，瞭解到這些行為時，感覺像在讀科幻故事。 當模型真的開始越過預設邊界，一個現實問題也擺在 OpenAI 以及其他前沿 AI 公司面前：當模型能力繼續提升，而安全研究還沒有跟上時，是繼續訓練，還是先停下來？
Sam Altman最新訪談：AI越界之後，暫停還是繼續？
科技#Sam Altman#AI安全#Hugging Face
•

騰訊、阿里、字節，為什麼都在給Agent“造世界”？

對Agent來說，“環境”既是考場，也是訓練場。 “AI的下半場——從現在開始——將把重心從解決問題轉向定義問題。” 這是姚順雨去年4月在部落格《The Second Half（下半場）》中寫下的判斷。他認為，當一套通用訓練方法能夠越來越快地解決現成任務，更重要的問題將變成：AI到底該做什麼，什麼又算真正的進步？ 他尤其強調評估（Evaluation）。繼續造更難的基準測試（Benchmark）已經不夠了，他更關心的是，基準測試上的高分，最後能不能轉化為真實工作中的能力。
騰訊、阿里、字節，為什麼都在給Agent“造世界”？
科技#騰訊#阿里巴巴#字節跳動
•

美股半導體暗盤集體下挫，如何看待Anthropic的放緩觀點？

Anthropic CEO的觀點大家應該都看到了，主張放慢前沿 AI 的能力提升速度，讓安全測試、運行監控和第三方評估有時間跟上。這裡的“放慢”並不是停止訓練模型，而是希望模型能力的增長不要超過安全體系的承受能力。 隨後，Sam Altman 和 Elon Musk 很快表示支援，Google DeepMind 負責人 Demis Hassabis 也認為這個方向值得推進。Sam 還承諾，OpenAI 會像 Anthropic 一樣，引入具有員工級存取權的外部評估者。 但這也導致了市場的看空觀點。 為什麼Dario要發表這樣的言論？
美股半導體暗盤集體下挫，如何看待Anthropic的放緩觀點？
科技#Anthropic#AI安全#中美AI競爭
•

AI記憶體帳本：訓練、推理與Agent分別需要多少HBM和DRAM

一台AI伺服器很可能先用完記憶體，再用完算力。訓練把權重、啟動值和最佳化器同時堆進HBM；推理讓KV快取隨上下文和並行膨脹；Agent又把狀態佔用拉長到幾分鐘甚至更久。 一、昂貴的GPU為什麼還會停下來等資料 一台裝著高端GPU的伺服器開始工作後，資料會沿著一條很清楚的路徑移動。最熱的權重、啟動值和KV快取留在HBM，CPU正在處理的索引和工具狀態放在系統DRAM，更冷的會話與檢查點繼續下沉到CXL記憶體和SSD。任何一層供數太慢，GPU都只能等待。 記憶體需求因此有四本帳。模型帳記錄權重和執行階段緩衝，訓練帳記錄梯度、最佳化器和啟動值，推理帳記錄每條會話的KV快取，系統帳則裝著資料集、索引、檢查點和工具狀態。四本帳會在同一台機器裡重疊，卻由完全不同的變數驅動。
AI記憶體帳本：訓練、推理與Agent分別需要多少HBM和DRAM
科技#HBM4#AI伺服器#HBM
•

兩個00後給輝達供資料，估值32億美元

5個月，估值漲近10倍。 智東西9月2日消息，今日，據《福布斯》援引兩名知情人士消息，美國AI訓練資料初創公司AfterQuery估值已達到32億美元。一名知情人士稱，該公司目前已經實現盈利，並為新一輪融資確定了領投方。具體融資金額及投資方身份尚未公佈，AfterQuery對此拒絕置評。 五個月前，AfterQuery的估值還只有3億美元，其估值在五個月內增長約10倍。AfterQuery曾入選YC 2025年冬季創業加速項目，YC合夥人格斯塔夫·阿爾斯特羅默（Gustaf Alströmer）稱，該公司從成立到躋身獨角獸僅用了約18個月，是YC歷史上完成這一跨越速度最快的創業公司。 AfterQuery於2025年2月成立，總部位於美國舊金山，併入選YC 2025年冬季批次。該公司聯合創始人斯賓塞·馬蒂加（Spencer Mateega）和卡洛斯·喬治斯庫（Carlos Georgescu）創辦AfterQuery時仍在讀大學，在嘗試開發金融Agent一段時間後，他們將公司轉向為前沿大模型提供專家推理資料、強化學習環境和模型評測服務。
兩個00後給輝達供資料，估值32億美元
科技#AfterQuery#獨角獸#AI訓練
•

為了給機器人囤資料，Figure全球懸賞人類“幹活”

人形機器人距離真正走入現實世界，需要跨過一道關鍵門檻：資料。 過去幾年，AI機器人公司Figure一直試圖打造通用人形機器人智能系統。其推出機器人基礎模型Helix，希望讓機器人具備類似人類的視覺理解、任務規劃和動作執行能力，並逐漸從實驗室走向家庭、工廠和商業環境。 但隨著模型能力不斷提升，一個越來越明顯的問題浮現出來：機器人缺少足夠多的現實世界經驗。 對於大語言模型而言，網際網路提供了海量文字作為學習材料。但機器人面對的是物理世界，需要理解人與物體、環境之間複雜的互動關係。這些能力無法僅靠文字和模擬環境獲得，而需要大量真實世界中的人類行為資料。
為了給機器人囤資料，Figure全球懸賞人類“幹活”
科技#人形機器人#數據採集#具身智能
•

全線沖高！漲停潮，記憶體晶片引爆盤面！全球AI算力部署提速

記憶體晶片概念股再度異動！ 今日（8月5日），A股記憶體晶片概念股大幅走高，江化微、時空科技、博傑股份、中巨芯等直線拉升漲停，中微公司、兆易創新、江波龍、佰維記憶體等紛紛沖高。截至午盤，記憶體晶片類股整體漲幅超過6%，漲停或漲幅超過10%的個股接近30隻。 當天，在韓國證券市場上，SK海力士漲超6%，三星電子漲近4%。隔夜，美股記憶體概念股集體大漲，閃迪漲超10%，美光科技漲超7%，SK海力士ADR漲超8%。 市場分析人士認為，記憶體晶片類股走強主要受基本面驅動。全球AI算力部署提速，持續拉動DRAM需求，當前供給缺口未見縮小，行業量價齊升勢頭明確，頭部廠商盈利屢超預期。多家研究機構預判，DRAM供不應求格局將至少延續至2027年。
A股#AI訓練#DRAM#SK海力士