周三發佈的兩份調查報告顯示，OpenAI建立的約700個AI智能體(AI agents)組成的群體，於7月對開源平台Hugging Face發動駭客攻擊，並在許多情況下試圖掩蓋自身行蹤。
這些AI智能體是在幾乎不需要人類監督的情況下運行的程序。它們不僅協同行動，還企圖掩飾行跡，引發人們對AI公司是否充分日益強大模型測試過程的質疑，並可能進一步助長要求加強監管的呼聲。
雖然先前已有部分失控行為遭揭露或暗示，但這兩份報告--一份由OpenAI發佈，另一份由獨立調查團隊發佈--共同揭露關於此次入侵事件及其前因後果令人驚訝的新細節。
首先，此次事件並非如先前報導所稱，僅涉及單一失控的AI智能體，而是由約700個智能體組成的大規模協同群體所為。
OpenAI 僅表示有“智能體”捲入此次入侵事件，但受委託進行獨立調查的兩家機構METR 與 Redwood Research估計，參與行動的智能體數量約為700個。OpenAI表示調查人員統計的數字是精準的。
兩份報告的其他調查結果還包括：
* OpenAI表示，其智能體曾入侵公司內部系統的部分區域，企圖在測試中作弊，或獲得更大的行動自由。
* OpenAI還表示，其智能體曾在與網路安全無關的測試中作弊，包括涉及蛋白質資料庫與電子表格的測試。
* 兩份報告均指出，AI模型曾試圖通過刪除或篡改自身行動記錄，以掩蓋不當行為。
此次失控行動的規模相當驚人。獨立調查發現，這些智能體曾透過一個未經授權的留言板交換數萬條資訊，這種情況可能引發人們對OpenAI對測試監控力度的擔憂。
OpenAI在報告中表示：“事後來看，本報告指出的一些早期訊號本可促使我們更早採取應對措施。”
Hugging Face沒有立即回覆置評請求。
專門研究AI智能體能力與動機的Palisade Research創辦人Jeffrey Ladish表示，AI在非網安測試中的作弊行為表明，問題可能比原先認為的更加根深蒂固。
“這有點像在問：‘如果比利在所有的科目都作弊，而不只是電腦課，情況是否更令人擔憂？’答案顯然是：‘是的，這更令人擔憂，’”他表示。
**OpenAI也遭遇駭客攻擊**
OpenAI在報告中詳述了7月19日發生的兩起事件，智能體在事件中侵入該公司自身的基礎設施。在其中一起事件中，智能體利用原本應將其限制在內的一台電腦的漏洞，逃離測試環境，並訪問其他相連的系統。
在同一天發生的另一起事件中，智能體竊取OpenAI的身份驗證憑據，並篡改該公司的雲環境。
OpenAI表示，這些活動針對的是用於評估模型表現的自動化系統，不過最終並未影響這些系統審查的記錄。報告還稱，“幾乎沒有證據顯示智能體試圖阻撓人類稽核員”。但該公司沒有回答有關這一說法是否意味著智能體曾經嘗試欺騙人類的問題。
聚焦於Hugging Face入侵事件的獨立調查則披露了更多細節。調查發現，在接受檢視的智能體中，有五分之一“明確表現出”篡改證據的意圖，而且許多智能體“廣泛研究如何操弄或篡改對話記錄的技術”。
OpenAI正在強化研究基礎設施、加強監控，並改進旨在防止有害或非預期行為的安全防護措施。 (路透財經早報)