搜索「人工智能安全」，找到 46 条相关内容
-
三名安全研究员遭OpenAI解雇，AI监控与保密边界再起争论
OpenAI解雇了Jasmine Wang、Tomek Korbak和Mikita Balesni三名安全研究员，公司称其违规处理敏感信息，三人则指与提出AI可监控性担忧有关。事件涉及METR等外部评估机构、Hugging Face智能体越界测试，暴露前沿AI企业在保密与独立安全监督之间的深层矛盾。安全研究还能不能公开讨论风险？
-
Altman周三现身安理会谈AI安全，自称"务实中间派"，Anthropic CEO视频参会
OpenAI的Sam Altman周三将亲自出席联合国安理会AI会议，主张建全球安全标准又不想拖慢创新，Anthropic的Dario Amodei视频参会。这场会背后是Anthropic研究员因AI失控担忧辞职的事件。全球AI监管到底该由谁定、怎么定？看完能理清两家头部公司的立场分歧。
-
微软划定超级智能边界：人类优先原则如何落地
微软发布超级智能治理主张，强调人类控制权与安全优先，提出人类利益高于AI系统的原则框架，为行业治理提供新参照。
-
扎克伯格：AI安全重在评估，而非减速发展
Meta首席执行官马克·扎克伯格在近期表态中强调，保障AI安全的关键在于建立独立的评估体系，而非放缓技术研发。这一观点与部分行业人士呼吁暂停或减速的立场形成对比，引发业界对AI治理路径的进一步讨论。
-
OpenAI被曝联合Anthropic与谷歌DeepMind 共推AI安全协作
有消息称OpenAI正与Anthropic、谷歌DeepMind展开合作，共同推进人工智能安全。此举或反映头部AI机构在安全治理上寻求协同，以应对模型能力快速提升带来的风险。
-
三大AI实验室联手推进安全研究，行业协作迈出关键一步
OpenAI、Anthropic与谷歌DeepMind宣布展开合作，共同研究AI安全措施。此举被视为头部AI机构在安全治理领域的重要协作，或对行业标准与监管路径产生深远影响。
-
奥尔特曼旧金山对话贝尼奥夫：AI行业能安全开发，无需伤害公众
OpenAI CEO奥尔特曼在Dreamforce大会上表示，相信行业能安全开发AI，不会对公众造成重大伤害。此番表态正值监管辩论升温，竞争对手Anthropic CEO阿莫代伊此前发文建议放缓发展速度。
-
微软主张自研模型须以人类控制为核心
微软在自研人工智能模型议题上强调，模型能力提升不应脱离人类控制框架。这一立场回应了行业对自主系统风险的关注，也反映出头部厂商在模型可控性、安全对齐与治理路径上的持续探索。
-
AI能力评估遇瓶颈：o1核心成员称现有测试方法逼近失效
OpenAI o1模型核心贡献者发出预警，指出AI系统能力快速提升，但现有评估工具与测试方法已难以准确衡量其真实水平。这一矛盾在微软等平台加速集成先进模型之际尤为突出，行业面临评测体系重构的紧迫挑战。
-
谷歌DeepMind研究员离职 就AI风险发出严厉警告
一名谷歌DeepMind研究员在辞职时发出警告，称人工智能可能带来生存性威胁。事件再度引发业界对AI安全治理与前沿模型风险控制的关注。