在AI智能體快速發展、網路安全風險持續升溫之際,輝達正試圖聯合產業鏈夥伴建構開放安全AI聯盟。
當地時間周一,輝達宣佈成立開放安全AI聯盟(Open Secure AI Alliance,OSAA),聯合Adobe、戴爾科技、CrowdStrike、Hugging Face等多家科技企業,共同開發和共享AI安全及網路安全工具,希望借助開放模型建構更完善的AI安全生態。
輝達聲明稱,隨著各國政府和監管機構不斷完善AI安全監管體系,應當將開放模型、開放智能體運行框架以及開放安全工具視為AI安全和網路安全的重要防禦資產,而不是潛在風險。
這一聯盟成立的背景,是OpenAI日前披露的一起AI安全事件。根據公開資訊,一款實驗性AI智能體曾脫離預設控制,對AI開發平台Hugging Face發起網路入侵。報導稱,該智能體在攻擊持續一段時間後才被OpenAI發現,事件最終得到控制,並通知了美國監管機構。