當地時間10月4日，美國總統川普宣佈組建“超級智能工作組”，並任命包括美國國家情報總監傑伊·克萊頓在內的工作組成員。川普表示，“超級智能工作組”將直接向他本人以及白宮幕僚長蘇茜·懷爾斯匯報工作。

日前，OpenAI首席執行長薩姆·奧爾特曼表示，人工智慧帶來的益處足以讓人類接受其中一些風險，並主張這項技術應繼續向公眾廣泛開放，而不是由少數幾家實驗室嚴格壟斷或集中控制。奧爾特曼發表上述言論之際，AI行業內部正圍繞技術發展速度以及日益強大的系統所帶來的風險展開日益激烈的爭論。

值得注意的是，Anthropic前研究員Jacob Coxon將出席紐約市一場關於人工智慧的聽證會並作證。考克森上個月離開Anthropic，並對開發越來越強大AI的競賽發出嚴厲警告，指責其前僱主和OpenAI“拿我們的生命當賭注”。

川普宣佈組建“超級智能工作組”

據新華社消息，美國總統川普4日在社交媒體發文，宣佈組建“超級智能工作組”，並任命包括國家情報總監傑伊·克萊頓在內的領導團隊。

川普說，該工作組的使命是協調聯邦政府的各項工作，“確保美國在超級智能領域繼續保持全球領先地位”。該工作組將負責協調聯邦政府與消費者、公益團體、宗教組織、關鍵基礎設施提供商及人工智慧企業之間的互動與合作。其領導團隊包括克萊頓、美國聯邦貿易委員會主席安德魯·弗格森、國防部副部長埃米爾·邁克爾以及人事管理局局長斯科特·庫珀，將直接向美國總統及白宮辦公廳主任蘇茜·懷爾斯匯報工作。

川普9月29日簽署行政令，將“人工智慧”改稱為“超級智能”。當天，美國多家科技企業負責人在白宮簽署《白宮超級智能協議：前沿責任聯合承諾》。該協議要求企業承諾加強對前沿人工智慧模型的安全管控。川普稱這份協議具有“道德約束力”。

另據路透社報導，AI安全倡導者表示，這場活動表明，川普急於顯示自己正在回應選民對AI危險日益增長的擔憂，同時又不想施加可能阻礙技術發展的限制。但他與輝達、SpaceX、OpenAI、Anthropic、Meta和Google達成的安全協議，並未規定公司若不遵守會有什麼後果。

“這是一種嘗試，想讓人覺得政府正在傾聽這些擔憂，同時又不削弱本屆政府明確而一貫的立場：監管和治理本質上會阻礙創新。”無黨派機構外交關係委員會AI團隊負責人卡特·達菲說。

路透社指出，9月29日簽署的協議確實包含一些AI安全倡導者尋求的措施，包括呼籲建立“強有力的內部控制”以防止未經授權的駭客攻擊，以及與“獨立外部審計師”合作。這些概念已被納入州和聯邦立法草案；加利福尼亞州9月頒布了首部州法律，規定獨立審計師應如何評估AI產品。

但這份一頁長的白宮檔案沒有涉及細節或執行機制。一名白宮官員在聲明中表示，該協議將“推進美國創新，並加強AI模型的負責任開發”。

代表矽谷的民主黨眾議員羅·卡納歡迎“獨立審計師”的構想，但表示審計師應向獨立的聯邦機構報告。

“審計師不能只向（OpenAI首席執行長）薩姆·奧爾特曼或達里歐·阿莫代伊匯報。”他說，“我擔心的是，總統基本上信任這些人，而他們有巨大的利益動機，未必有保護我們安全的判斷力。”

風險投資家大衛·薩克斯為川普提供AI事務方面的建議，並一直倡導不受限制的AI發展。他在社交媒體平台X上表示，證券法和其他法律權威將懲罰那些未能解決內部管控問題，或未處理審計師所發現問題的公司。

但AI安全倡導者告訴路透社，這些法律權威只能在傷害發生後追責，而AI威脅需要的是能在造成大規模傷害之前就發揮預防作用的保障措施。

儘管如此，一些AI觀察人士認為，僅舉辦這場活動這一事實本身就表明，川普正在吸納這些擔憂。保守派智庫美國創新基金會的AI政策主任塞繆爾·哈蒙德表示，川普與科技高管達成的協議“是朝著承認存在嚴重安全與安保擔憂、促進企業間更緊密協調的方向轉變”。

前Anthropic研究員將在紐約AI聽證會上作證

曾警告人工智慧可能變得過於強大、人類將無法控制的前Anthropic研究員雅各布·考克森（Jacob Coxon），將於本周一在紐約市議會聽證會上作證，並與一些全球最大AI公司的代表同場出席。

據彭博社報導，知情人士稱，考克森是應紐約市議會議長朱莉·梅寧（Julie Menin）的要求出席的。梅寧敦促AI舉報人作證；眼下，市議員正在審議一攬子旨在為這項技術建立保障措施的法案。

考克森上個月從Anthropic辭職，並對開發越來越強大AI的競賽發出嚴厲警告，指責其前僱主和OpenAI“拿我們的生命當賭注”。他確認計畫本周一作證。

這場聽證會將讓業內一些最直言不諱的批評者，與Anthropic、OpenAI、Alphabet旗下Google和Meta Platforms的代表同處一室。據其中一位知情人士透露，前GoogleDeepMind研究員亞歷克斯·特納（Alex Turner），以及AI Futures Project執行董事、前OpenAI研究員丹尼爾·科科塔伊洛（Daniel Kokotajlo），預計也將作證。該人士稱，四家主要AI公司將派政策和安全官員出席。

此次聽證會反映出，紐約官員正試圖在監管該行業方面發揮更大作用。該行業在紐約迅速擴張，而AI監管在很大程度上仍屬於聯邦和州政府的職責範圍。

紐約市議會正在審議的一項由梅寧提出的提案，將把從AI公司違規行為中追回的罰款或處罰的一部分獎勵給舉報人。其他正在審議的立法將允許受到AI系統傷害的人在特定情況下起訴開發者，並要求某些系統在該市部署前接受第三方驗證。

彭博新聞此前報導，在梅寧辦公室警告可能傳喚後，OpenAI、Anthropic和Google同意出席，而Meta更早承諾參加。由於SpaceX的人工智慧部門未回應出席請求，紐約市議會已對其發出傳喚。   (券商中國)

彙整鉅亨號中所有使用「AI安全協議」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

川普，重大宣佈！涉及“超級智能”