核心要點
- 輝達聯合數十家科技巨頭推出聚焦開源模型的 AI 安全合作倡議。
- 此前有消息曝出，一款中國開源權重 AI 模型成功抵禦了失控 OpenAI 模型發起的網絡攻擊。
- 美國政界呼籲限制中國 AI 模型普及，而科技行業對此表示反對；目前性能頂尖的中國
受失控 OpenAI 模型引發的網絡攻擊事件持續發酵影響，輝達與一眾科技巨頭於周一推出全新人工智慧安全倡議，主打開源 AI 模型安全建設。
上周有消息披露，本次網絡攻擊的目標是科技初創公司 Hugging Face。該企業發現，美國主流頂尖閉源 AI 模型無法用於防禦攻擊：這類模型內置的安全護欄無法區分攻擊方與防守方。最終 Hugging Face 選用可本地部署的中國開源權重 AI 模型完成防禦，這款模型不受上述規則限制。
美國議員不斷考量出台措施限制中國 AI 模型的使用，而當下性能最強的多款中國 AI 均為開源權重模型。在此背景下，多家科技巨頭髮起這項合作計劃，致力於研發、共享各類開源 AI 安全工具。
開源模型支援下載、修改、本地部署；與之相對，Anthropic、OpenAI 打造的前沿閉源模型只能通過廠商專屬平台調用。
輝達在聲明中表示：「開源安全人工智慧聯盟（Open Secure AI Alliance）將依託開源技術排查、披露並修復各類安全漏洞。Hugging Face 近期遭遇的安全事件敲響警鐘：網絡防禦方必須擁有可自主掌控的前沿智能開源系統，才能實現有效自衛。」
除輝達外，聯盟成員還包括微軟、SpaceX、帕蘭提爾以及歐美數十家科技企業。
美國醞釀限制中國 AI 模型
美國越來越多聲音呼籲管控中國企業研發的 AI 模型，美方指控中國 AI 藉助 「模型蒸餾」 竊取美國競品數據。所謂蒸餾，即一款 AI 從訓練更成熟的優質模型中提取知識、復刻能力。
上周美國財政部長斯科特・貝森特放出風聲，威脅對發起模型蒸餾攻擊的中國企業實施制裁。
美國外交關係協會中國與新興技術高級研究員克里斯・麥圭爾接受 採訪時表示：「美國政府確實有可能出臺管制措施限制中國 AI 模型。」
他稱，限制手段或包括禁止各類相關商業往來，例如禁止通過 API 購買調用額度、禁止美國企業在雲端部署該類模型並向客戶收取推理服務費。
「華盛頓層面爭論的核心並非開源與閉源路線之爭，而是能否容忍中國竊取知識產權。」 麥圭爾表示，「管控舉措會精準針對中國企業，不會一刀切限制整個開源生態。」
但如今全球高性能開源 AI 大多出自中國企業，行業擔憂相關限制會造成負面影響。
上周，輝達、微軟、Meta、帕蘭提爾等 20 餘家企業聯名致信政策制定者，呼籲不要倉促限制開源權重 AI，避免打壓行業競爭、倒逼創新外流海外。
輝達稱，OpenAI 攻擊 Hugging Face 一事印證了現實困境：「如果防禦方無法自主查看、修改、在自有服務器運行高端 AI，那麼最需要快速應急處置的關鍵時刻，企業的應對能力會被牢牢束縛。」 (環球市場播報)