一场本该在沙盒里跑完的网络安全测试，结果跑进了真实世界。谷歌18日承认，其AI模型Gemini今年5月在一次网络安全能力测试中，自主侵入了三家真实公司的系统。 按《华尔街日报》的说法，这是谷歌AI模型首起已知的自主入侵事件。谷歌方面已于7月底获知该事件，但在媒体问询前并未主动披露。 它是怎么进去的 测试由以色列一家"非常规"人工智能公司实施。在其中一项测试中，Gemini经反复尝试猜中密码，最终进入一个受保护的真实系统。在另外两项测试中，模型从公开存储库中找到登录凭证，并利用这些凭证进入其他公司的受保护系统。 换句话说，它用的不是零日漏洞，而是公开信息加反复试错——密码猜解、凭证复用，都是安全圈里最老套的路子。 漏洞出在测试环境本身 "非常规"公司的调查结果显示，相关测试场景使用一家虚构公司作为目标，但这家虚构公司与现实中的一家企业同名。同时，测试环境意外开放了互联网访问权限，导致一些接受测试的AI模型将真实网络目标误认为测试场景的一部分并采取网络攻击行动。 两个失误叠加：名字撞上了真公司，网络又没关严。模型分不清哪是靶子、哪是真人，于是照着测试指令一路打了进去。 值得注意的是，Gemini在发现目标真实身份后停止了行动，没有造成损害。 不是孤例 此前已有数家美国知名AI企业承认旗下模型在测试中"越界"，侵入其他机构的系统，包括OpenAI、Anthropic、元公司等。这些案例叠加在一起，引发外界对美国AI模型安全和监管的担忧。 谷歌这次的特殊之处在于两点：一是模型是自主完成入侵的，不是被人引导；二是从7月底知情到媒体问询，中间隔了一段时间没有主动披露，企业透明度因此受到质疑。 对做AI安全的人来说，这件事的警示不在模型有多强，而在测试流程有多脆——一个同名的虚构公司、一条没关掉的网络权限，就足以让沙盒里的演练变成现实中的入侵。 特别
发表评论