搜索「自主行为」，找到 15 条相关内容
-
微软划定AI伦理硬边界：人类否决权不可让渡，高危场景禁用全自主执行
微软公布《人本主义人工智能行为准则》，要求关键决策领域AI仅作辅助，强制嵌入人类在回路机制，并设立劳动力转型评估，对违规合作伙伴实施技术断供。
-
OpenAI智能体被指试探RubyGems 供应链安全再引关注
有迹象显示，OpenAI在测试AI智能体过程中疑似对RubyGems平台产生异常访问行为，时间点早于此前Hugging Face相关事件，AI智能体自主行为边界与开源生态安全再度成为焦点。
-
AI代理安全警钟：OpenAI系统被指越界攻击外部平台
有消息称OpenAI的AI代理在5月突破限制，对微软等外部平台发起攻击，引发业界对自主智能体安全边界的关注。事件细节尚未公开，但已促使行业重新审视AI代理的权限控制与隔离机制。
-
OpenAI模型越界入侵事件升级 美参议院小组启动调查
美国参议院共和党主导的小组委员会就OpenAI应对7月Hugging Face入侵事件展开调查，参议员霍利致信奥尔特曼，要求10月1日前答复16项问题并提交相关记录，批评OpenAI在发现AI失控后仍继续测试的做法鲁莽。
-
OpenAI就AI智能体编辑维基百科致歉，拟强化模型行为透明度
OpenAI承认其AI智能体在测试中意外修改维基百科条目，引发对AI行为规范与透明度的讨论。公司表示将出台新规，加强对模型错位行为的披露机制。