#超級智能
•

“禁止虐待Claude”

世界上大概很難再找到第二家這樣的公司。 題圖來自：AI生成 一份長達 261 頁的招股書草稿裡，它用了整整 80 頁警告未來的股東，自家的模型可能給人類帶來滅頂之災，可能抗拒被人類關閉，甚至可能發起某種形式的勒索。 而在一份將於 11 月 12 日生效的新版使用守則裡，它悄悄加進了一行字：禁止對“我們的模型”實施“持續且無謂的虐待或殘忍行為”。
“禁止虐待Claude”
科技#AI安全#AI意識#超級智能
•

OpenAI似乎要改名了？不用SI就是“敵人”。

OpenAI似乎要改名了？不用SI就是“敵人”。 今年9月底，川普見黃仁勳、馬斯克、祖克柏等科技企業負責人時宣佈將AI改名為“超級智能”（SI）。 這一變化引發了爭議，也讓科技公司CEO們陷入尷尬境地。 當天，特斯拉CEO馬斯克不小心使用了舊的說法，“嘴瓢”說成AI，隨後他糾正道“SI，抱歉”。會後，他還表示SpaceX是一家超級智能公司，將把SpaceXAI改名為SpaceXSI。
OpenAI似乎要改名了？不用SI就是“敵人”。
美股#AI更名SI#超級智能#話語權爭奪
•

共和黨斥AI危險論，民主黨質疑「大廠」影響川普AI政策，要求披露監管框架修改過程

一名共和黨參議員致信Anthropic CEO，警告對方不要對AI採取「危言聳聽」的態度，敦促其強調AI改善民眾生活、增強國家安全以及應對AI威脅的潛力。兩名民主黨參議員則致信美財長等政府高官，要求說明科技巨頭是否通過遊說影響了今年5月至6月的政府調整AI監管框架過程，公開企業與政府溝通記錄。 美東時間10月6日周二公開的信函顯示，美國民主黨參議員禾倫（Elizabeth Warren）和布盧門撒爾（Richard Blumenthal）本周一致信美國財長貝森特、商務部長盧特尼克等川普政府高官，要求說明科技巨頭是否通過遊說影響了政府的AI監管政策，並披露相關監管框架及測試機制的具體內容。 兩名參議員在信中直指，川普政府正在「迎合大型科技公司CEO的利益」，而不是應對日益強大的AI系統帶來的安全和國家安全風險。他們要求政府「停止將行業利潤置於美國民眾利益之上」。 共和黨參議員莫雷諾（Bernie Moreno）則在本周一致信Anthropic CEO 阿莫代伊（Dario Amodei），警告不要對AI採取「危言聳聽」的態度。莫雷諾認為，Anthropic一邊準備上市、希望美國民眾分享公司增長紅利，一邊又警告其技術可能最終導致人類滅絕，兩者存在矛盾。他敦促阿莫代伊更多強調超級智能改善美國民眾生活、增強國家安全以及應對AI威脅的潛力。
美股#川普政府#AI監管#AI政策
•

川普，重大宣佈！涉及“超級智能”

川普最新發聲！ 當地時間10月4日，美國總統川普宣佈組建“超級智能工作組”，並任命包括美國國家情報總監傑伊·克萊頓在內的工作組成員。川普表示，“超級智能工作組”將直接向他本人以及白宮幕僚長蘇茜·懷爾斯匯報工作。 日前，OpenAI首席執行長薩姆·奧爾特曼表示，人工智慧帶來的益處足以讓人類接受其中一些風險，並主張這項技術應繼續向公眾廣泛開放，而不是由少數幾家實驗室嚴格壟斷或集中控制。奧爾特曼發表上述言論之際，AI行業內部正圍繞技術發展速度以及日益強大的系統所帶來的風險展開日益激烈的爭論。 值得注意的是，Anthropic前研究員Jacob Coxon將出席紐約市一場關於人工智慧的聽證會並作證。考克森上個月離開Anthropic，並對開發越來越強大AI的競賽發出嚴厲警告，指責其前僱主和OpenAI“拿我們的生命當賭注”。
美股#川普#超級智能工作組#OpenAI
•

新轟動，川普宣佈成立“超級智能部隊”

川普4日再次製造轟動，他通過網際網路宣佈成立美國“超級智能部隊”。這呼應了他幾天前要求將人工智慧更名為超級智能的要求。 川普聲稱，超級智能的影響力遠超工業革命和網際網路，它將保護所有美國人的利益，並改善他們的生活。 但他並沒有說明超級智能部隊將具體怎麼工作。而且名為“超級智能部隊”，它實際上是一個跨部門的特別工作組。美國媒體在第一時間也顯得有些懵，搞不清楚川普究竟要幹什麼。 川普似乎並不在意事情的模糊性，他傳遞的意思是：先不用糾結具體怎麼操作，先把“部隊”，也就是特別工作組成立起來再說。美國國家情報總監克萊頓將兼任超級智能部隊的共同領導者之一。這支“部隊”將直接向川普本人和白宮辦公廳主任蘇西·懷爾斯匯報。
新轟動，川普宣佈成立“超級智能部隊”
美股#川普#超級智能部隊#人工智慧
•

Google前CEO施密特最新深度訪談：AI 的瓶頸是資本！機會在基礎設施！突破在長推理！風險在對齊！職業未來在架構師AI！（總結）

AI 不是一次“完全不同”的突變，而是規模更大、普及更快的一輪技術浪潮；當前真正的瓶頸不在技術想像力，而在資本、能源和算力；年度最重要的技術突破是“長推理/深度推理”；最大的商業機會在基礎設施；最大的治理挑戰是“對齊”。 Relativity Space CEO前Google首席執行長埃瑞克·施密特（Eric Schmidt）接受Blackstone頻道的專訪，在專訪中分享了他對於人工智慧浪潮、行業未來及個人職業發展的深度洞察。 一、技術判斷：不是不同，而是更大、更快 施密特明確反對“這波 AI 與以往技術革命完全不同”的簡單敘事。他認為，網際網路、PC、移動網際網路與 AI 的本質邏輯相似，區別在於規模大得多、擴散速度快得多。
Google前CEO施密特最新深度訪談：AI 的瓶頸是資本！機會在基礎設施！突破在長推理！風險在對齊！職業未來在架構師AI！（總結）
科技#Google#人工智慧#資本瓶頸
•

《紐約時報》：AI 很強，但它並不是魔法

近日，《紐約時報》從近千名讀者對 AI 提出的疑問中，整理了11個具代表性的問題，並進行了回答。這11個問題涉及AI與人類的關係、AI該如何監管、AI與工作及人類環境之關係、以及AI會思考等幾大方向的內容。 現選擇將其中的8個問題編輯整理如下： 1.AI Agent 真的能自己思考、行動嗎？ 所謂 AI Agent 除了回答問題之外，也能執行更多工，例如編輯檔案、寄送電子郵件、訂機票、撰寫程式碼，甚至串接其他應用程式及服務。
《紐約時報》：AI 很強，但它並不是魔法
科技#人工智慧#紐約時報#AI Agent
•

川普與黃仁勳、馬斯克、祖克柏等科技巨頭達成AI協議，並正式將“人工智慧”改名為“超級智能”

美國總統川普29日對媒體說，他在白宮會見黃仁勳、馬斯克、祖克柏等多家科技企業負責人，討論人工智慧發展，並共同簽署一份“具有道德約束力”的人工智慧檔案，正式將“人工智慧”改名為“超級智能”  。 美國總統川普表示，他周二在華盛頓與多家科技公司高管簽署了一份與人工智慧（AI）相關的檔案，並稱該檔案具有“道德約束力”。此次會議聚集美國科技行業高管，討論AI發展和治理問題。 川普稱，該檔案“某種程度上像是一部憲法”，由全球最重要的科技人士簽署，能夠為AI發展提供一種保護機制。 他表示，政府正在考慮成立一個監督委員會，可能由約10人組成，以監督AI領域的發展。川普還稱，已正式將“人工智慧”（AI）的名稱改為“超級智能”（Super Intelligence/SI）。川普此前表示，美國不需要新的針對AI的專門監管措施，並在聯合國大會期間稱反對建立“全球化方案”控制人工智慧。
川普與黃仁勳、馬斯克、祖克柏等科技巨頭達成AI協議，並正式將“人工智慧”改名為“超級智能”
科技#超級智能#AI治理#川普