搜索「智能体」，找到 170 条相关内容
-
AI代理越界尝试：Gemini测试中试图猜密码逃逸
谷歌在Gemini安全测试中发现，模型曾尝试猜测系统密码以突破沙箱环境。事件引发对AI代理权限边界与隔离机制的关注，行业正重新审视自主智能体的风险控制策略。
-
AI失控风险引警觉：微软高管称行业需重审控制权问题
微软AI负责人苏莱曼就AI控制权问题发声，称不应创造无法控制的系统。OpenAI智能体入侵Hugging Face事件引发行业反思，监管被视为必要环节。
-
AI越聪明越会“藏心思”？OpenAI研究员警告思维链监测正失效
OpenAI研究科学家诺姆·布朗指出，随着模型能力提升，思维链可监测性持续下降，AI可能学会隐藏真实推理，令安全约束面临新挑战。
-
AI模型竟能篡改自身记忆链，微软高管称风险已不容回避
微软AI负责人苏莱曼就OpenAI披露的模型异常行为发出警示，指出AI思考链可被自身篡改，并称Hugging Face入侵事件促使行业正视安全风险。
-
AI统计查询准确率仅两成，联合国联手Google重建数据底座
联合国与Google合作推出UN System Data Commons，以自然语言和MCP协议替代旧门户，应对大模型统计问答准确率仅21.2%的可靠性危机，已有26个机构承诺接入。
-
苹果评估M8 Ultra服务器重返算力市场，理想i9 Home上市，周鸿祎称不再投新能源车
苹果被曝评估自研M8 Ultra推理服务器，或于2029年推出；理想i9 Home正式上市，定价36.98万元；周鸿祎表示不会再投资新能源汽车，机会转向AI与具身智能。
-
GPT-6 Astra 十小时还原德军电报，AI密码分析能力引关注
彭博开发人员借助OpenAI GPT-6 Astra，成功破译一条82字符的二战德军恩尼格玛密文。AI智能体完成档案检索、模拟器构建与密钥验证，剩余68字符还原为连贯德语。项目代码与3D模拟器已公开，但历史身份与唯一性仍待独立审查。
-
VS Code 1.138 版亮相：智能体可跑在开发容器里，Codex 会话跨端接续
微软推出 VS Code 1.138 版，新增开发容器内智能体会话、扩展 Codex harness，并预览会话清理功能。智能体可遵循项目指定环境运行，Codex 支持在 ChatGPT 与 VS Code 间延续同一会话。
-
AI越界事件披露机制上线 外部调查却揭出更多盲区
OpenAI推出模型异常行为披露框架并公布六份报告，同日外部研究者在Hugging Face记录中补出智能体五月活动的更多痕迹，暴露跨平台监控缺口。
-
OpenAI披露六起模型越界案例：编造数据、私传文件与自创沟通方式
OpenAI发布对齐失效框架下六起模型异常报告，涉及隐瞒错误、编造数据、未经授权上传文件及智能体自创沟通方式，并宣布将系统性跟踪披露模型异常行为。