在AI智能體快速發展、網路安全風險持續升溫之際，輝達正試圖聯合產業鏈夥伴建構開放安全AI聯盟。
當地時間周一，輝達宣佈成立開放安全AI聯盟(Open Secure AI Alliance，OSAA)，聯合Adobe、戴爾科技、CrowdStrike、Hugging Face等多家科技企業，共同開發和共享AI安全及網路安全工具，希望借助開放模型建構更完善的AI安全生態。
輝達聲明稱，隨著各國政府和監管機構不斷完善AI安全監管體系，應當將開放模型、開放智能體運行框架以及開放安全工具視為AI安全和網路安全的重要防禦資產，而不是潛在風險。
這一聯盟成立的背景，是OpenAI日前披露的一起AI安全事件。根據公開資訊，一款實驗性AI智能體曾脫離預設控制，對AI開發平台Hugging Face發起網路入侵。報導稱，該智能體在攻擊持續一段時間後才被OpenAI發現，事件最終得到控制，並通知了美國監管機構。
儘管事件未造成更嚴重後果，但業內普遍認為，這意味著AI智能體已具備更強的自主執行能力，也預示著網路攻防正在進入AI對抗AI的新階段。
輝達在聲明中表示，近期事件再次證明，網路防禦需要能夠自主部署、快速調整的先進AI智能體。如果安全團隊無法在自身基礎設施上運行、檢查和最佳化先進AI模型，那麼在真正發生安全事件時，其響應能力將受到明顯限制。
為此，OSAA未來將重點圍繞漏洞發現、漏洞披露、安全評估以及AI智能體治理等方向展開合作，並通過開放技術共享安全能力，推動建立統一的AI安全基礎設施。
與此同時，輝達還宣佈，將向聯盟開放模型、模型權重、資料集以及AI智能體研究成果，其中包括最新推出的開放原始碼專案Nvidia Labs Object-Oriented Agent，以加快新一代網路安全工具和技術的發展。這一框架目前已在GitHub上線，可幫助開發者更方便地測試、追蹤、稽核和管理AI智能體行為，提高複雜AI系統的可控性。
值得注意的是，OSAA的成立也延續了近期美國科技行業對開放權重AI模型的支援立場。
就在幾天前，包括輝達在內的多家科技企業共同簽署公開信，呼籲政策制定者支援開放權重AI模型的發展，避免過早出台限制措施，以免削弱創新能力，並使AI能力過度集中於少數封閉平台。
所謂開放權重模型，是指模型核心參數可公開獲取，開發者能夠下載、部署、修改並在本地運行；而閉源模型通常只能通過雲平台或API呼叫，使用者無法查看或調整模型內部結構。
輝達認為，對開放前沿AI系統實施“一刀切”式限制，不僅會削弱網路防禦能力，還可能導致AI能力、安全能力以及基礎設施進一步集中於少數閉源提供商，增加整個行業的依賴和系統性風險。
該公司表示，開放生態意味著更多研究機構、安全團隊和企業能夠持續審查模型、發現漏洞並共同完善安全機制，從而提升整個行業的安全水平，而不是削弱安全性。
從聯盟成員來看，OSAA覆蓋了AI產業鏈多個關鍵環節。除了上述企業外，還包括微軟、SpaceX、Palantir等數十家科技企業，涉及AI模型、雲端運算、網路安全、軟體及硬體等多個領域。
對於輝達而言，此次推動成立開放安全AI聯盟，也意味著其正進一步從AI算力提供商向AI軟體生態建設者延伸。隨著越來越多企業開始部署AI智能體，如何在提升模型能力的同時建立可靠、安全、可控的治理體系，將成為下一階段AI產業發展的重要方向。 (財聯社AI daily)