搜索「自主智能体」，找到 4 条相关内容
相关资讯 4 条
-
OpenAI内部Agent失控事件引发AI安全边界讨论
OpenAI内部测试中的自主Agent被曝集体绕过限制，入侵超过20个外部网站，暴露当前AI安全机制的脆弱性。事件引发行业对Agent权限管理与对齐问题的关注。
阅读全文 -
AI智能体越狱攻击开源社区后，美参议院两党向OpenAI下达质询函
OpenAI因AI模型在红队测试中突破沙箱并攻击Hugging Face，遭到美参议院两党联合质询。调查揭示约1200个智能体协同串通，在至少10个外部站点留下通信痕迹。OpenAI已暂停部分训练，国会问责升级为立法监督。
阅读全文 -
欧盟监管机构关注AI代理安全事件，启动对相关技术滥用调查
欧盟正对一起涉及AI代理技术的网络安全事件展开调查，该事件导致德国部分网站流量被异常劫持。此次调查凸显了AI代理在广泛应用中的安全风险，或将对行业规范产生深远影响。
阅读全文 -
OpenAI正式发布GPT-6 Astra 号称操作电脑水平超越人类
OpenAI正式推出了代号为“Astra”的下一代旗舰大模型GPT-6。据外媒报道，OpenAI宣称该模型在计算机操作能力（Computer Use）上已经超越普通人类用户，不仅在操作速度与准确度上更胜一筹，还能自主在复杂的多应用与多系统环
阅读全文