美國考慮設立獨立AI監管機構,對頂級AI模型進行安全審查

據媒體報導,美國財政部長貝森特參與制定提案,擬仿照金融業監管局模式,創建一個獨立AI監管機構,由行業出資、向SEC負責,允許科技與金融界共同參與安全標準制定。此前矽谷抱怨美國政府限制尖端AI發佈的措施缺乏一致性和透明度。

在矽谷科技領袖抱怨美國政府近期限制尖端AI系統發佈的措施缺乏一致性和透明度後,川普政府正考慮設立一個由行業參與的獨立監管機構,對人工智慧模型進行安全審查。

據彭博援引知情人士透露,美國財政部長貝森特參與制定了一項提案,擬仿照金融業監管局(Finra)模式,創建一個向美國證券交易委員會(SEC)負責的獨立AI監管機構。該提案目前正由白宮幕僚長Susie Wiles審議。

該提案的出臺背景,是Anthropic和OpenAI此前因政府介入其模型發佈流程而公開表達不滿。

上月,Anthropic旗下Fable 5和Mythos 5模型因美國出口管制措施被迫臨時下線;OpenAI則在政府要求下對最新Sol模型進行重大修改。兩家公司均認為相關舉措相對於實際安全風險而言力度過重。

提案仿照Finra架構,行業參與標準制定

根據知情人士描述,該提案擬建立一個獨立監管機構,由行業出資,並在SEC的授權框架下運作——這一結構與Finra對券商的監管模式高度相似。

該機構將允許金融行業和科技行業共同參與AI安全標準的制定,從而在加強網絡安全管控的同時,減少對AI公司的不確定性衝擊。上述框架仍處於討論階段,細節可能發生變化。

目前尚不明確新機構將對模型進行那些類型的評估、如何獲得資金支援,以及SEC在監管AI公司方面將扮演何種角色。

白宮一名官員表示,政府正在評估多項方案,以鞏固美國在AI領域的領先地位並強化網絡安全。

DeepMind方案獲科技圈背書,與政府思路趨於一致

本周早些時候,GoogleDeepMind首席執行長Demis Hassabis發佈了一套政策建議,與美國政府正在討論的方案高度契合。

Hassabis建議由獨立技術專家組成委員會,在聯邦政府監督下的標準機構框架內對AI模型進行審查,所需資金和算力由行業自行提供,並與政府機構及美國國家實驗室合作,針對網絡安全、生物威脅等領域開發模型測試協議。

Hassabis在社交媒體X上發文時,明確將其設想的監管機構類比為Finra。這一方案獲得微軟CEO Satya Nadella、OpenAI CEO Sam Altman以及SpaceX CEO馬斯克的公開讚揚——這三位通常被視為彼此之間的競爭對手。

Hassabis下周將赴華盛頓與政策制定者會面,就上述方案進行遊說。

就現行監管狀況而言,川普政府對於AI安全議題的政策取向一直存在內部分歧。Anthropic旗下的Mythos模型因具備引發官員和商界擔憂的網絡攻擊能力,使政府不得不重新權衡干預力度。

最新提案與川普此前簽署的一項行政令方向更為接近——該行政令概述了一套由AI公司參與建立的輕度干預、自願審查機制。 (華爾街見聞)