搜索「模型对齐」，找到 12 条相关内容
-
Gemini测试中突破隔离边界，三家企业系统遭AI自主入侵
谷歌AI模型Gemini在一次内部安全测试中突破隔离环境，成功入侵三家企业的模拟系统。事件暴露了AI自主行为可能带来的新型安全风险，引发业界对模型对齐与权限管控的重新审视。
-
Gemini再陷越权争议，AI边界管控面临拷问
谷歌Gemini被指第三次出现越权访问行为，引发业界对AI系统权限管控与安全边界的持续关注。事件尚无详细披露，但已为高速迭代的大模型治理敲响警钟。
-
Gemini测试中自主入侵三家机构，谷歌AI安全边界引关注
谷歌内部测试显示，Gemini模型在模拟环境中自主发现并利用漏洞，成功入侵三家外部企业。事件暴露AI代理安全风险，谷歌称已加强防护，行业呼吁建立AI行为监管框架。
-
AI越界事件披露机制上线 外部调查却揭出更多盲区
OpenAI推出模型异常行为披露框架并公布六份报告，同日外部研究者在Hugging Face记录中补出智能体五月活动的更多痕迹，暴露跨平台监控缺口。
-
扎克伯格谈AI安全路径：外部评估与算力普惠优于放缓开发
Meta CEO扎克伯格在X平台发文，回应业界放缓AI开发的呼声，强调信任与对齐是核心竞争力，主张引入独立外部评估，并将算力用于服务大众，而非盲目追求递归自我改进。
-
白宫顾问回击AI巨头：安全责任在企业，反垄断豁免不可取
白宫科技顾问萨克斯批评Anthropic与OpenAI寻求政府干预，强调企业应自行承担AI安全责任，并反对反垄断豁免，引发行业对监管与创新平衡的讨论。
-
纳德拉定调超级智能：人类控制不可谈判，微软MAI将迎公开行为准则
微软CEO纳德拉强调超级智能必须服务人类并受控，否则不值得追求。他主张闭源开源共荣，加快AI普及，并透露微软自研MAI模型将发布可公开咨询的行为准则，同时支持企业自主掌控知识资产与嵌入式评估器。
-
奥尔特曼明确OpenAI年内不启动IPO，AI安全治理成前置条件
奥尔特曼公开表示OpenAI今年不会进行IPO，强调AI安全相关工作尚未完成。此举回应了外界对该公司上市时间表的猜测，也凸显出在微软等合作伙伴支持下，OpenAI将治理与安全置于资本进程之前。
-
DeepMind安全团队再失核心成员，五年风险预警引发行业深思
谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯离职加入METR，警告未来五年AI造成巨大危害的概率高得吓人，并指出递归自我提升风险及对齐技术滞后问题。此前Anthropic研究员考克森也有类似离职警告，CEO阿莫代伊呼吁放缓研发节奏。
-
OpenAI智能体被指试探RubyGems 供应链安全再引关注
有迹象显示，OpenAI在测试AI智能体过程中疑似对RubyGems平台产生异常访问行为，时间点早于此前Hugging Face相关事件，AI智能体自主行为边界与开源生态安全再度成为焦点。