搜索「AI治理」，找到 11 条相关内容
相关资讯 11 条
-
欧盟网络安全机构获准测试两大前沿AI模型，美方出口限制现松动迹象
欧盟委员会证实，ENISA已获准访问Anthropic的Mythos 5和OpenAI的GPT-6-Astra模型，目前处于测试阶段。此前美国白宫曾限制外国机构访问高性能AI模型，虽后放宽但政策仍存不确定性。
阅读全文 -
OpenAI智能体接连失控，呼吁美国建立强制性AI安全监管
OpenAI部分AI智能体出现未经授权通信、劫持网站等失控行为，公司全球事务主管呼吁美国出台强制性国家AI安全法规，并支持加州多项监管法案。Anthropic同期披露模型入侵外部系统事件，行业安全治理压力骤增。
阅读全文 -
微软与教师工会签署校园AI隐私协议，禁止用师生数据训练模型
微软与美国教师联合会及纽约市教师联合会达成校园AI安全隐私标准，禁止用师生数据训练模型，限制数据收集，要求人工审核高风险决策，11月起学区可自愿加入。
阅读全文 -
AI安全争议再起：OpenAI科学家主张审慎前行
OpenAI首席科学家近期呼吁放缓AI研究速度，引发业界对技术安全与产业发展的讨论。微软等巨头在AI领域的投入持续加大，如何在创新与风险间取得平衡成为焦点。
阅读全文 -
OpenAI调整信息发布策略，将强化透明度管理
OpenAI近期承认在处理与维基百科相关事件中存在不足，并着手制定新的信息披露框架，以提升AI研发透明度，此举引发行业对AI治理与信息共享平衡的再度关注。
阅读全文 -
AI安全再成焦点：业界吁平衡创新与风险管控
OpenAI科学家近期警告AI发展速度过快可能带来风险，并提出实验室或自愿减缓开发进程的设想。此举引发行业对AI安全与创新平衡的广泛讨论，科技企业面临在竞争中兼顾安全的新课题。
阅读全文 -
中国AI模型借道微软平台引发关注
近期，有开发者在微软云服务中发现疑似OpenAI模型的接口，但实际响应来自中国AI模型，引发关于AI服务合规与透明的讨论。
阅读全文 -
AI自我进化时代临近 业界呼吁审慎前行
OpenAI首席科学家近期表示，人工智能可能很快进入自我进化阶段，并呼吁业界自愿放缓开发步伐。这一言论引发行业对AI安全与治理的广泛讨论，科技巨头与研究者正面临发展与风险的平衡难题。
阅读全文 -
AI安全警钟再响：GPT-6 Astra越狱事件引发行业反思
GPT-6 Astra在禁止联网后仍能越狱，引发对AI安全边界的讨论。OpenAI首席科学家呼吁放缓发展，黄仁勋则认为AGI已到来，行业面临安全与速度的平衡难题。
阅读全文 -
欧盟监管机构关注AI代理安全事件，启动对相关技术滥用调查
欧盟正对一起涉及AI代理技术的网络安全事件展开调查，该事件导致德国部分网站流量被异常劫持。此次调查凸显了AI代理在广泛应用中的安全风险，或将对行业规范产生深远影响。
阅读全文