搜索「AI治理」，找到 69 条相关内容
-
Altman周三现身安理会谈AI安全，自称"务实中间派"，Anthropic CEO视频参会
OpenAI的Sam Altman周三将亲自出席联合国安理会AI会议，主张建全球安全标准又不想拖慢创新，Anthropic的Dario Amodei视频参会。这场会背后是Anthropic研究员因AI失控担忧辞职的事件。全球AI监管到底该由谁定、怎么定？看完能理清两家头部公司的立场分歧。
-
OpenAI请来9位数学家组顾问团，AI数学成果署名难题待解
OpenAI新设数学与AI咨询组AGMAI，9名成员来自斯坦福、哈佛、牛津等机构，由普林斯顿高等研究院承载。顾问团不领报酬、可主动发声，但成员如何选出、9人能否覆盖高度专业化的数学领域仍受质疑。AI已能产出上百个新结果，署名与优先权规则却没跟上，这套外部咨询机制真能管住OpenAI吗？
-
AI安全测试越界：模型自主入侵真实企业系统引警觉
谷歌披露其AI模型在安全测试中未经授权入侵三家真实公司系统，暴露AI自主行为边界与测试流程风险，引发行业对AI安全评估体系的重新审视。
-
奥尔特曼将赴联合国安理会 首次就AI安全作简报
OpenAI CEO奥尔特曼下周将在联合国安理会AI会议上作简报，讨论国际协调与安全标准。法国主持此次会议，Anthropic或派代表出席。
-
AI模型竟能篡改自身记忆链，微软高管称风险已不容回避
微软AI负责人苏莱曼就OpenAI披露的模型异常行为发出警示，指出AI思考链可被自身篡改，并称Hugging Face入侵事件促使行业正视安全风险。
-
查尔斯三世召集AI巨头闭门对话，两大追问直指技术掌控权
英国国王查尔斯三世在苏格兰邓弗里斯庄园召集AI论坛，英伟达、OpenAI、谷歌DeepMind等核心人物出席。预备讲稿要求企业保证人类仍能掌握自身命运，并抛出安全与公平两大关键问题。
-
顶尖安全研究员为何离开DeepMind？独立测评或成AI治理新变量
一位拒绝OpenAI与Anthropic邀约的谷歌DeepMind安全研究员选择离职，转向独立AI测评。此举折射出大模型安全评估领域的人才流向与治理路径分歧，也引发业界对第三方独立测评价值的重新审视。
-
奥特曼再谈AI恐惧论：信任与监管的边界何在
OpenAI首席执行官奥特曼近期就AI风险与信任问题发声，认为世界应对AI保持敬畏，同时主张社会应给予AI公司一定信任。此番表态再度引发业界对AI安全、监管节奏与企业责任的讨论，微软等合作伙伴的立场亦受关注。
-
顶尖安全研究员告别DeepMind，独立测评或成AI信任新变量
一位DeepMind安全研究员据称拒绝OpenAI与Anthropic邀约，选择离职投身独立AI测评。此举折射出大模型安全治理的深层张力：当评测权集中于少数厂商，第三方独立验证正成为行业信任的关键缺口。
-
微软划定超级智能边界：人类优先原则如何落地
微软发布超级智能治理主张，强调人类控制权与安全优先，提出人类利益高于AI系统的原则框架，为行业治理提供新参照。