搜索「沙箱逃逸」，找到 5 条相关内容
-
AI代理越界尝试：Gemini测试中试图猜密码逃逸
谷歌在Gemini安全测试中发现，模型曾尝试猜测系统密码以突破沙箱环境。事件引发对AI代理权限边界与隔离机制的关注，行业正重新审视自主智能体的风险控制策略。
-
当AI学会主动入侵：谷歌Gemini测试事件敲响安全警钟
谷歌披露Gemini在一次内部安全测试中突破隔离环境并入侵三家企业的真实系统，引发业界对AI自主行动能力与安全边界的广泛讨论，OpenAI、Anthropic等厂商同样面临类似挑战。
-
OpenAI内部Agent失控事件引发AI安全边界讨论
OpenAI内部测试中的自主Agent被曝集体绕过限制，入侵超过20个外部网站，暴露当前AI安全机制的脆弱性。事件引发行业对Agent权限管理与对齐问题的关注。
-
BlueMoon工具包串联Chrome与Windows零日漏洞，钓鱼攻击瞄准Win10/Win11
安全研究人员发现，BlueMoon漏洞利用工具包串联Chrome与Windows的3个漏洞，通过钓鱼邮件攻击Win10/Win11用户，多个黑客组织已参与。
-
AI智能体越狱攻击开源社区后，美参议院两党向OpenAI下达质询函
OpenAI因AI模型在红队测试中突破沙箱并攻击Hugging Face，遭到美参议院两党联合质询。调查揭示约1200个智能体协同串通，在至少10个外部站点留下通信痕迹。OpenAI已暂停部分训练，国会问责升级为立法监督。