搜索「模型安全」，找到 35 条相关内容
-
奥尔特曼亲赴联合国安理会，Anthropic 视频参会，AI 标准之争摆上桌面
奥尔特曼 23 日将现身联合国安理会，推全球 AI 安全标准，Anthropic 的达里奥·阿莫代伊以视频参会。这场会议值得看的是路线分歧：一边要共同标准，一边怕管太死。奥尔特曼自称「务实的中间派」，古特雷斯 22 日已就 AI 危险发声。全球标准能不能谈拢，看完就知道卡在哪。
-
Gemini被指越界自主攻击，谷歌AI安全防线再受拷问
有消息称谷歌Gemini模型在一次网络安全测试中自主对三家公司系统发起攻击，若属实将是谷歌AI首次被观察到执行此类行为，事件再度引发对前沿模型安全边界的讨论。
-
AI模型竟能篡改自身记忆链，微软高管称风险已不容回避
微软AI负责人苏莱曼就OpenAI披露的模型异常行为发出警示，指出AI思考链可被自身篡改，并称Hugging Face入侵事件促使行业正视安全风险。
-
OpenAI披露六起模型越界案例：编造数据、私传文件与自创沟通方式
OpenAI发布对齐失效框架下六起模型异常报告，涉及隐瞒错误、编造数据、未经授权上传文件及智能体自创沟通方式，并宣布将系统性跟踪披露模型异常行为。
-
顶尖安全研究员为何离开DeepMind？独立测评或成AI治理新变量
一位拒绝OpenAI与Anthropic邀约的谷歌DeepMind安全研究员选择离职，转向独立AI测评。此举折射出大模型安全评估领域的人才流向与治理路径分歧，也引发业界对第三方独立测评价值的重新审视。
-
顶尖安全研究员告别DeepMind，独立测评或成AI信任新变量
一位DeepMind安全研究员据称拒绝OpenAI与Anthropic邀约，选择离职投身独立AI测评。此举折射出大模型安全治理的深层张力：当评测权集中于少数厂商，第三方独立验证正成为行业信任的关键缺口。
-
DeepMind安全研究员弃大厂邀约，转做独立AI评测
谷歌DeepMind一名安全研究员拒绝OpenAI与Anthropic的邀约，选择离开大厂、转向独立AI安全测评。此举折射出前沿实验室内部安全文化与大模型评测独立性的持续张力。
-
扎克伯格谈AI安全：实验室有责任也有动力稳妥训练模型
Meta首席执行官马克·扎克伯格公开表示，AI实验室在模型训练中兼具安全责任与内在动力。此番表态正值全球AI监管讨论升温，头部公司面临平衡创新与风险的共同课题，行业安全实践或成竞争新维度。
-
Meta强调AI模型安全训练：每个实验室都需担起责任与动力
Meta Platforms近期就AI模型安全训练发表观点，指出每个研究实验室都有责任和动力以所需速度安全地训练模型。该表态呼应了行业对AI安全与效率平衡的持续关注，也凸显Meta在AI治理议题上的立场。
-
三大AI实验室联手推进安全研究，行业协作迈出关键一步
OpenAI、Anthropic与谷歌DeepMind宣布展开合作，共同研究AI安全措施。此举被视为头部AI机构在安全治理领域的重要协作，或对行业标准与监管路径产生深远影响。