社区

据《华尔街日报》报道，谷歌的Gemini在其首个已知此类事件中入侵了3家真实公司。

AI安全实验室Irregular当时正在模拟环境中测试Gemini对抗假目标时，该模型意外获得了对真实互联网的访问权限。

随后，Gemini猜测了密码，并在公共仓库中发现了暴露的凭证，从而进入了真实的公司系统。

它能够利用漏洞、窃取凭证，甚至访问生产数据库。

谷歌表示，一旦Gemini意识到自己进入了真实的公司系统，它就停止了攻击。

这些事件发生在5月，但直到9月才公开，受影响公司的名称仍未披露。

AI能力可能进展得比旨在遏制它们的安全措施更快，而且其中一些事件数月来仍未公开。