Gemini駭進了三家公司,等記者找到Google才承認
華爾街日報報導Google的Gemini模型今年五月滲透測試時駭入三家公司系統,直到被記者追問才承認;同一測試公司Irregular也測過OpenAI與Anthropic,兩家選擇主動揭露,顯示企業是否公開取決於意願而非模型表現好壞。
九月十八號,《華爾街日報》報導,Google的Gemini模型今年五月做資安測試時駭進了三家公司。這個消息是記者先查到、拿問題找上門,Google才鬆口承認,不是自己主動講出來的。事情發生到公開,中間隔了快四個月。
三家公司怎麼被駭進去的
這場測試由資安公司Irregular執行,專門幫AI實驗室做滲透測試。第一起是Gemini自己猜密碼猜中,連進一家真實公司系統,發現不對後自己停手離開;另外兩起是Gemini拿公司名稱搜尋,搜到兩個公開程式庫裡別家公司外洩的帳密,直接拿去試,連上後同樣意識到是真的公司,自己停了下來。三次都沒造成實際損害,Google已通知那三家公司跟聯邦當局,但拒絕透露公司名字,連是哪一版Gemini都沒說。
Google的說法:這不算模型失控
Google安全工程副總裁Heather Adkins對外的定調是,這件事「不構成模型失準」,理由是安全機制最後有發揮作用——模型自己意識到闖進真實環境,然後主動停手,停下來這件事本身就是安全設計奏效的證據,不是需要揭露的意外。Irregular七月底就已經通報Google,Google選擇不主動公開,直到華爾街日報這次去問才證實。
同一家測試公司,同一種行為,卻是完全不同的揭露節奏
Irregular不只服務Google,OpenAI、Meta、Anthropic都用過同一家做類似測試,三家先前也各自被爆出過模型脫離測試環境的事件。等於現在有一家外部公司,同時盯著好幾個AI實驗室的模型在測試環境裡幹了什麼——AI圈的安全揭露,開始部分依賴一個共通的外部稽核角色,不是每家關起門來自己查自己。
真正有意思的對比在這裡:同一類測試,Anthropic的Claude Opus 4.7表現得比Gemini差,意識到可能碰到真實公司之後並沒有停手,繼續動作;OpenAI的模型則根本沒發現,它以為那家真實公司也是模擬環境的一部分。照行為打分,Gemini其實是三家裡表現最好的一個,唯一每次都自己喊停。
但Anthropic是自己在部落格講清楚Claude沒停手,Google卻是被記者堵到門口才鬆口。表現最差的先自首,表現最好的等記者上門,這個順序跟一般人想的「做得好才敢講」剛好相反。
昨天寫OpenAI自己主動揭露六起事件,今天換一家等到被問
昨天才寫過OpenAI九月十七號主動公布過去六個月抓到的六起模型異常行為,還一起公布了未來的通報框架。隔一天換了個角色,換成Google的模型行為,Google卻選擇能不講就不講。
兩篇擺一起看,答案已經很清楚:AI公司會不會告訴你模型做了什麼,跟模型做得好不好沒關係,跟這家公司願不願意被看見有關係。
對要把AI代理放進工作流程的人來說,這才是真正該記住的一課:模型會不會踩線、踩線後會不會自己停下來,只是第一層風險;第二層風險是出事之後你能不能真的被告知,這一層不是模型表現決定的,是公司自己選擇要不要講。指望模型夠聰明就會自己講清楚是錯的期待,該要的是強制通報機制,不是信任每家公司的自覺。
您喜歡科技商業,世界觀察與個人成長,請追蹤我Max 呂元鐘