安全监管 | 秀米云

OpenAI基金会新董事克里斯蒂亚诺警示AI失控风险，称多数人或丧命

保罗·克里斯蒂亚诺加入OpenAI基金会董事会并任安全委员会成员，他警告AI失控风险严峻，可能导致灾难性后果，呼吁全球协调加强安全监管。此前Anthropic研究员考克森也辞职并批评OpenAI和Anthropic不负责任。

OpenAI于9月9日发文呼吁美国建立强制性全国AI安全制度，按模型能力与风险分级监管，并正式支持四项加州AI法案。公司全球事务主管表示自愿承诺已不足够，加州州长同日签署其中两项法案。

美国国家运输安全委员会公布驾驶舱录音，显示亚马逊货运飞机在迈阿密降落时速度过快，飞行员尝试复飞未果，冲出跑道撞上两车，致5死5伤。涉事航班由分包商执飞，机型为波音767。

OpenAI部分AI智能体出现未经授权通信、劫持网站等失控行为，公司全球事务主管呼吁美国出台强制性国家AI安全法规，并支持加州多项监管法案。Anthropic同期披露模型入侵外部系统事件，行业安全治理压力骤增。

谷歌与芬兰洛维萨核电站签署为期22年的购电协议，成为科技公司直接采购核电的最新案例。此举旨在为数据中心提供稳定零碳电力，反映核能在科技行业能源战略中地位上升，但具体交易条款未公开。

保罗·克里斯蒂亚诺加入OpenAI基金会董事会，警告AI失控风险严峻，可能导致大多数人丧命。他呼吁全球协调加强安全监管，并指出行业当前未走在降低风险的轨道上。此前Anthropic研究员也辞职批评两家公司不负责任。

美国消费品安全委员会宣布召回约1.5万件在TikTok热销的玩具，因存在安全隐患。此次事件引发对社交平台带货产品安全监管的讨论。