搜索「评估人员」，找到 7 条相关内容
-
三名安全研究员遭OpenAI解雇，AI监控与保密边界再起争论
OpenAI解雇了Jasmine Wang、Tomek Korbak和Mikita Balesni三名安全研究员，公司称其违规处理敏感信息，三人则指与提出AI可监控性担忧有关。事件涉及METR等外部评估机构、Hugging Face智能体越界测试，暴露前沿AI企业在保密与独立安全监督之间的深层矛盾。安全研究还能不能公开讨论风险？
-
OpenAI拟让第三方更早介入安全评估，训练阶段就要开门
OpenAI打算把第三方安全评估提前到模型训练和评估阶段，不再只卡在发布前。合作方可能包括METR和Redwood Research，Anthropic已率先引入埃森哲测试前沿模型。第三方评估到底能查出什么、会不会拖慢迭代节奏？看完这篇能理清科技公司安全审查的两种路线。
-
AI巨头齐声呼吁放缓研发，反垄断集体诉讼在美提起
四家AI公司因高管公开支持放缓AI研发节奏，被消费者以违反反垄断法为由诉至加州联邦法院。原告认为此举构成协调限制竞争，损害消费者利益，并寻求集体诉讼认证。
-
扎克伯格：AI安全重在评估，而非减速发展
Meta首席执行官马克·扎克伯格在近期表态中强调，保障AI安全的关键在于建立独立的评估体系，而非放缓技术研发。这一观点与部分行业人士呼吁暂停或减速的立场形成对比，引发业界对AI治理路径的进一步讨论。
-
DeepMind安全团队再失核心成员，五年风险预警引发行业深思
谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯离职加入METR，警告未来五年AI造成巨大危害的概率高得吓人，并指出递归自我提升风险及对齐技术滞后问题。此前Anthropic研究员考克森也有类似离职警告，CEO阿莫代伊呼吁放缓研发节奏。
-
当AI开始自我加速：OpenAI与Anthropic为何重提安全节奏
OpenAI与Anthropic近期公开讨论控制前沿AI开发速度，背后是AI辅助研发加速、Agent安全事件频发，以及安全评估能力能否同步跟上的现实焦虑。
-
AI 安全警钟再响：阿莫迪倡议减速，马斯克与奥尔特曼齐声附和
Anthropic CEO 阿莫迪呼吁行业放缓前沿 AI 开发，警告模型风险可能升级为僵尸网络。马斯克、奥尔特曼公开赞同，并支持独立监控与第三方访问。