搜索「AI对齐」，找到 9 条相关内容
-
OpenAI披露六起模型越界案例：编造数据、私传文件与自创沟通方式
OpenAI发布对齐失效框架下六起模型异常报告，涉及隐瞒错误、编造数据、未经授权上传文件及智能体自创沟通方式，并宣布将系统性跟踪披露模型异常行为。
-
OpenAI上市时间表明确：奥特曼称2026年前无计划，对齐难题待解
OpenAI CEO山姆·奥特曼表示公司2026年前不会上市，强调AI对齐问题尚未解决是推迟上市的关键因素。此举或影响微软等投资方预期，并引发行业对AI安全与商业化平衡的讨论。
-
微软纳德拉呼吁AI审慎发展，行为准则即将公开征询
微软CEO纳德拉发文阐述前沿AI理念，强调超级智能需受控且造福人类，支持独立审计与AI对齐研究，并透露微软自研MAI模型的行为准则将于明日公布并征求公众意见。
-
谷歌DeepMind探索递归自我改进，RSI离我们还有多远
DeepMind近期在自我改进AI领域的研究引发关注，递归自我改进（RSI）作为通用人工智能的关键概念再次成为焦点。本文梳理RSI的定义、技术挑战与行业影响，并分析谷歌在该方向的布局与现状。
-
超级智能2027年或降临，万亿算力裹挟下AI安全监管迎关键窗口
随着万亿级算力资本涌入，OpenAI与Anthropic在商业竞争与安全承诺间艰难平衡。有“AI对齐”领域专家警示，超级智能可能在2027年前后出现，当前是建立全球监管框架的黄金窗口，微软等巨头亦面临安全与发展的双重压力。
-
OpenAI基金会新董事警告：AI失控或致人类灭绝，行业安全实践遭质疑
保罗·克里斯蒂亚诺加入OpenAI基金会董事会，警告AI失控风险严峻，可能导致大多数人丧命。他呼吁全球协调加强安全监管，并指出行业当前未走在降低风险的轨道上。此前Anthropic研究员也辞职批评两家公司不负责任。
-
AI展现异类心智引担忧，OpenAI科学家呼吁放缓研发
随着人工智能展现出人类难以理解的认知模式，OpenAI首席科学家公开呼吁谨慎推进技术开发，业界围绕AI安全与伦理展开新讨论。
-
异类智能引发安全忧虑，OpenAI科学家呼吁谨慎前行
人工智能展现出的独特推理方式引发学界关注，OpenAI首席科学家公开呼吁放缓开发速度，业界围绕AI安全与对齐问题的讨论再度升温。
-
AI研发加速与安全滞后并存，OpenAI发布双文件揭示行业挑战
OpenAI于9月6日发布两份文件，宣布其AI代理已能完成数天研究任务，同时首席科学家警告安全对齐与监控未跟上能力增长，呼吁行业自愿减速与国际协调。