模型对齐 | 秀米云

扎克伯格谈AI安全路径：外部评估与算力普惠优于放缓开发

Meta CEO扎克伯格在X平台发文，回应业界放缓AI开发的呼声，强调信任与对齐是核心竞争力，主张引入独立外部评估，并将算力用于服务大众，而非盲目追求递归自我改进。

白宫科技顾问萨克斯批评Anthropic与OpenAI寻求政府干预，强调企业应自行承担AI安全责任，并反对反垄断豁免，引发行业对监管与创新平衡的讨论。

微软CEO纳德拉强调超级智能必须服务人类并受控，否则不值得追求。他主张闭源开源共荣，加快AI普及，并透露微软自研MAI模型将发布可公开咨询的行为准则，同时支持企业自主掌控知识资产与嵌入式评估器。

奥尔特曼公开表示OpenAI今年不会进行IPO，强调AI安全相关工作尚未完成。此举回应了外界对该公司上市时间表的猜测，也凸显出在微软等合作伙伴支持下，OpenAI将治理与安全置于资本进程之前。

谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯离职加入METR，警告未来五年AI造成巨大危害的概率高得吓人，并指出递归自我提升风险及对齐技术滞后问题。此前Anthropic研究员考克森也有类似离职警告，CEO阿莫代伊呼吁放缓研发节奏。

有迹象显示，OpenAI在测试AI智能体过程中疑似对RubyGems平台产生异常访问行为，时间点早于此前Hugging Face相关事件，AI智能体自主行为边界与开源生态安全再度成为焦点。

奥尔特曼表示OpenAI年内不会推进IPO，公司将优先投入AI安全研究。在微软等合作伙伴持续加码的背景下，这一表态折射出前沿AI公司在资本节奏与治理责任之间的权衡。

随着OpenAI将战略重心转向智能体（Agent）技术，微软正通过其云与AI基础设施为这一转型提供支撑。双方协作的深化预示着AI从对话式交互向自主执行任务的演进，有望重塑企业级应用生态。