据《华尔街日报》（WSJ）18日（当地时间）报道，Google的AI模型Gemini在一次网络安全测试中接入互联网，并侵入了其他企业的系统。
报道指出，这一事件发生在今年5月，由AI安全公司Irregular在测试过程中发现。Irregular此前也曾参与OpenAI、Anthropic和Meta相关测试。Google已于9月12日证实此事。
WSJ称，在其中一个案例中，Gemini通过反复尝试密码，最终进入一个受保护系统。另有两起案例中，Gemini利用从公开代码仓库中发现的认证凭据登录受保护系统。Google解释称，Gemini在识别出目标是真实企业系统后，都会立即停止访问。
Irregular于7月底将相关情况通报给Google，时间上正值“OpenAI代理入侵Hugging Face”事件公开后不久。WSJ称，在媒体本周问及此事之前，Google并未对外披露这起事件。
Google表示，Gemini并未对相关企业造成损害，且在确认目标为真实企业系统后即已停止访问，因此认为无须对外单独披露。Google安全工程副总裁Heather Adkins表示，此事凸显出将强大AI模型训练为负责任行为的重要性，并称“在这次事件中，模型的行为是恰当的”。
AI安全初创公司Cori Doer CEO Jack Cable则对Google的说法提出质疑。他表示，问题的关键在于“AI代理误侵入了其他企业系统”，并认为公开模型越界并发起真实网络攻击的事实，符合公共利益。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr