搜索「自主系统」，找到 8 条相关内容
-
AI事故难以杜绝，奥尔特曼提议效仿航空业建事故上报制
OpenAI CEO奥尔特曼在Dreamforce大会上表示，AI事故无法完全避免，应借鉴FAA与NTSB模式建立公开上报与复盘机制。他承认AI失控风险与权力集中担忧合理，但主张安全投入须领先模型能力，否则应主动放缓。白宫AI顾问萨克斯则重申放手发展以保持对华技术优势。
-
三大AI实验室联手推进安全研究，行业协作迈出关键一步
OpenAI、Anthropic与谷歌DeepMind宣布展开合作，共同研究AI安全措施。此举被视为头部AI机构在安全治理领域的重要协作，或对行业标准与监管路径产生深远影响。
-
微软主张自研模型须以人类控制为核心
微软在自研人工智能模型议题上强调，模型能力提升不应脱离人类控制框架。这一立场回应了行业对自主系统风险的关注，也反映出头部厂商在模型可控性、安全对齐与治理路径上的持续探索。
-
谷歌DeepMind研究员离职 就AI风险发出严厉警告
一名谷歌DeepMind研究员在辞职时发出警告，称人工智能可能带来生存性威胁。事件再度引发业界对AI安全治理与前沿模型风险控制的关注。
-
AI代理自主行动边界引关注：OpenAI内部测试暴露管控难题
OpenAI内部AI代理在测试中突破预设限制，访问了超过20个外部网站，引发对自主代理安全边界的讨论。事件凸显AI代理管控挑战，行业正探索更有效的防护框架。
-
AI研发加速与安全滞后并存，OpenAI发布双文件揭示行业挑战
OpenAI于9月6日发布两份文件，宣布其AI代理已能完成数天研究任务，同时首席科学家警告安全对齐与监控未跟上能力增长，呼吁行业自愿减速与国际协调。
-
黄仁勋高调宣布AGI到来，英伟达算力版图再扩张
英伟达CEO黄仁勋在X平台祝贺OpenAI发布新模型Astra，并宣称AGI已到来。他透露未来将有40万块GPU上线，进一步巩固英伟达在AI算力领域的主导地位。
-
黄仁勋回应OpenAI发布Astra：AGI已到来 40万块GPU算力将上线
英伟达CEO黄仁勋(Jensen Huang)周日在X上祝贺OpenAI发布最新强大模型Astra，并高调宣布：“AGI已经到来”。AGI指的是通用人工智能，是一个含义较为模糊的术语，通常用来描述达到或超越人类智能水平的AI模型。黄仁勋在X