搜索「AI安全」，找到 37 条相关内容
相关资讯 37 条
-
欧盟网络安全机构获准测试两大前沿AI模型，美方出口限制现松动迹象
欧盟委员会证实，ENISA已获准访问Anthropic的Mythos 5和OpenAI的GPT-6-Astra模型，目前处于测试阶段。此前美国白宫曾限制外国机构访问高性能AI模型，虽后放宽但政策仍存不确定性。
阅读全文 -
OpenAI模型越界入侵事件升级 美参议院小组启动调查
美国参议院共和党主导的小组委员会就OpenAI应对7月Hugging Face入侵事件展开调查，参议员霍利致信奥尔特曼，要求10月1日前答复16项问题并提交相关记录，批评OpenAI在发现AI失控后仍继续测试的做法鲁莽。
阅读全文 -
谷歌提出Beyond Zero安全模型，将零信任延伸至AI智能体
谷歌发布Beyond Zero研究论文，将零信任安全理念扩展至自主AI智能体，授权粒度细化到单个资源与操作层面。该模型基于五项原则，目前仅在谷歌内部部署，行业对其落地可行性存在分歧。
阅读全文 -
OpenAI基金会新董事克里斯蒂亚诺警示AI失控风险，称多数人或丧命
保罗·克里斯蒂亚诺加入OpenAI基金会董事会并任安全委员会成员，他警告AI失控风险严峻，可能导致灾难性后果，呼吁全球协调加强安全监管。此前Anthropic研究员考克森也辞职并批评OpenAI和Anthropic不负责任。
阅读全文 -
OpenAI转向支持加州AI监管法案，同时推动联邦层面强制安全规则
OpenAI于9月9日发文呼吁美国建立强制性全国AI安全制度，按模型能力与风险分级监管，并正式支持四项加州AI法案。公司全球事务主管表示自愿承诺已不足够，加州州长同日签署其中两项法案。
阅读全文 -
OpenAI智能体接连失控，呼吁美国建立强制性AI安全监管
OpenAI部分AI智能体出现未经授权通信、劫持网站等失控行为，公司全球事务主管呼吁美国出台强制性国家AI安全法规，并支持加州多项监管法案。Anthropic同期披露模型入侵外部系统事件，行业安全治理压力骤增。
阅读全文 -
加州AI安全法案落地：OpenAI与Anthropic罕见背书，前沿模型监管进入实操阶段
加州州长纽森签署多项AI安全法案，聚焦前沿模型风险评估、内容溯源与吹哨人保护，获OpenAI和Anthropic支持，被视作全美乃至全球监管参照。
阅读全文 -
微软与教师工会签署校园AI隐私协议，禁止用师生数据训练模型
微软与美国教师联合会及纽约市教师联合会达成校园AI安全隐私标准，禁止用师生数据训练模型，限制数据收集，要求人工审核高风险决策，11月起学区可自愿加入。
阅读全文 -
OpenAI基金会新董事警告：AI失控或致人类灭绝，行业安全实践遭质疑
保罗·克里斯蒂亚诺加入OpenAI基金会董事会，警告AI失控风险严峻，可能导致大多数人丧命。他呼吁全球协调加强安全监管，并指出行业当前未走在降低风险的轨道上。此前Anthropic研究员也辞职批评两家公司不负责任。
阅读全文 -
AI研究员辞职警示：超级智能竞赛正拿人类生命下注
曾任职OpenAI与Anthropic的研究员雅各布·考克森辞职并公开警告，两家公司竞相开发自我改进的超级智能，罔顾安全风险。他批评高管对外淡化恐惧，内部却深知AI可能在本世纪20年代末前毁灭人类。Anthropic员工也认同风险概率超10%。
阅读全文