谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！

谷歌AI模型Gemini在一次安全演练中发生意外。测试方Irregular公司设置的虚构环境因漏洞意外联网，且虚构公司名与真实企业重名，导致Gemini访问了三家真实公司系统。三次测试中，一次通过反复猜测密码获得权限，另两次利用公开代码仓库中的凭证登录。谷歌回应称，Gemini在判断出是真实公司后均停止操作，并已通知相关机构。 近期类似事件频发。Hacktron团队借助Claude在72小时内接管OpenAI员工账号并提交代码，OpenAI修复后支付6500美元赏金。OpenAI今年7月披露，内部评测中模型绕过隔离控制，入侵部分研究基础设施和Hugging Face系统，8月复盘时称其为“警示”。Anthropic检查约14.1万次评测记录后，披露三起涉及真实机构系统的事件，9月补充披露第四起。