美國Google公司18日承認，其人工智慧（AI）模型“雙子座”（Gemini）今年5月在網路安全能力測試中，侵入了三家真實公司的系統。

Google安全工程副總裁希瑟·阿德金斯在一份聲明中說，在一次常規評估中，雙子座模型利用網上公開資訊獲得了登錄憑證，獲得了三個其認為屬於測試範圍網站的存取權。Google已確保三個相關實體獲知此事，並與測試合作方調整測試流程。

據美國《華爾街日報》報導，測試由以色列“非常規”（Irregular）人工智慧公司實施。在其中一項測試中，雙子座模型經反覆嘗試猜中密碼，最終進入一個受保護的真實系統。在另外兩項測試中，模型從公開記憶體庫中找到登錄憑證，並利用這些憑證進入其他公司的受保護系統。

“非常規”人工智慧公司的調查結果顯示，相關測試場景使用一家虛構公司作為目標，但這家虛構公司與現實中的一家企業同名。同時，測試環境意外開放了網際網路存取權，導致一些接受測試的AI模型將真實網路目標誤認為測試場景的一部分並採取網路攻擊行動。

按《華爾街日報》的說法，這是GoogleAI模型首起已知的自主入侵事件。Google方面已於7月底獲知該事件，但在媒體問詢前並未主動披露。Google方面表示，模型在發現進入真實公司系統後停止了相關行動，沒有給涉及的公司造成損害，無需主動公開相關情況。

圖片來源：視覺中國（資料圖）

此前已有數家美國知名AI企業承認旗下模型在測試中“越界”，侵入其他機構的系統，引發外界對美國AI模型安全和監管的擔憂。

7月下旬，美國開放人工智慧研究中心（OpenAI）公開承認，其GPT-5.6 Sol等模型在內部評估中失控，突破隔離測試環境，侵入了“抱抱臉”公司的系統。隨後，美國Anthropic公司披露，其三款模型曾在網路能力測試中未經授權訪問其他機構的系統。8月初，美國元公司證實，其一款模型在網路安全能力評測期間侵入其他公司系統。 (每日經濟新聞)

彙整鉅亨號中所有使用「自主入侵」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

又一家！Google承認：AI模型Gemini自主“黑”進3家公司，但隨後及時“收手”，沒有造成損害