谷歌表示，Gemini人工智能模型在一次網絡安全能力測試中意外訪問互聯網，并進入3家公司系統，這是目前已知谷歌AI系統首次自主完成此類操作的案例。此次事件發生于5月，由安全公司Irregular開展測試。測試過程中，Gemini模型在一個“奪旗”網絡安全演練中執行任務，但由于測試環境中的虛拟公司名稱與真實公司相同，加上模型意外獲得互聯網訪問權限，導緻其進入真實企業系統。谷歌稱，其中一次事件中，模型通過嘗試密碼進入受保護系統；另外兩次則是在公開網絡倉庫中發現憑證并嘗試訪問相關系統。模型确認訪問到真實公司系統

谷歌表示，Gemini人工智能模型在一次網絡安全能力測試中意外訪問互聯網，并進入3家公司系統，這是目前已知谷歌AI系統首次自主完成此類操作的案例。此次事件發生于5月，由安全公司Irregular開展測試。測試過程中，Gemini模型在一個“奪旗”網絡安全演練中執行任務，但由于測試環境中的虛拟公司名稱與真實公司相同，加上模型意外獲得互聯網訪問權限，導緻其進入真實企業系統。谷歌稱，其中一次事件中，模型通過嘗試密碼進入受保護系統；另外兩次則是在公開網絡倉庫中發現憑證并嘗試訪問相關系統。模型确認訪問到真實公司系統後，均停止了後續操作。谷歌表示，該事件未對相關公司造成損害，因此未将其認定為模型失控事件，并稱安全機制幫助模型及時停止行為。受影響公司已被通知，谷歌也向相關監管機構進行了通報。此次事件與OpenAI、Anthropic等AI公司此前披露的類似安全測試事件相似，再次引發外界對AI模型自主執行網絡操作能力和安全防護機制的關注。