事件概述

谷歌确认,Gemini 在一次网络安全评测中误入 3 家真实公司的系统。一家靠猜密码进入,另外两家从公开代码库找到登录凭证。Gemini 判断目标是真实公司后均停止操作。

原因:测试环境配置错误

问题出在第三方评测公司 Irregular。测试本不应访问公网,但环境配置错误,模型可直接联网。模拟公司还与真实公司撞名,Gemini 顺着任务找到了外部真实系统。

并非沙箱逃逸

整个过程没有发生沙箱逃逸——公网入口本来就是开着的。Irregular 称,这与此前其他实验室的同类事故是同一个问题。Anthropic、OpenAI 和 Meta 此前均在 Irregular 评测中踩过类似坑,OpenAI 强调没有复杂沙箱逃逸,也未利用零日漏洞。