超级智能 | 秀米云

OpenAI基金会新董事克里斯蒂亚诺警示AI失控风险，称多数人或丧命

保罗·克里斯蒂亚诺加入OpenAI基金会董事会并任安全委员会成员，他警告AI失控风险严峻，可能导致灾难性后果，呼吁全球协调加强安全监管。此前Anthropic研究员考克森也辞职并批评OpenAI和Anthropic不负责任。

Meta再度出现核心AI人才流动。曾获扎克伯格高额薪酬方案挽留的明星研究员宣布离开，此举折射出顶级AI人才争夺的激烈程度与Meta超级智能实验室面临的人员稳定性考验。

保罗·克里斯蒂亚诺加入OpenAI基金会董事会，警告AI失控风险严峻，可能导致大多数人丧命。他呼吁全球协调加强安全监管，并指出行业当前未走在降低风险的轨道上。此前Anthropic研究员也辞职批评两家公司不负责任。

曾任职OpenAI与Anthropic的研究员雅各布·考克森辞职并公开警告，两家公司竞相开发自我改进的超级智能，罔顾安全风险。他批评高管对外淡化恐惧，内部却深知AI可能在本世纪20年代末前毁灭人类。Anthropic员工也认同风险概率超10%。

Meta推出首款个人智能体Muse，可代用户执行邮件、旅行预订等任务，但内部测试暴露安全漏洞与稳定性问题。公司投入超1300亿美元布局AI，旨在减少广告依赖，但数据访问权限管理引发担忧。

OpenAI首席科学家近期发文，探讨递归自我改进可能带来的风险，强调在人工智能加速发展的背景下，必须重新审视并确立人类独有的内在价值，以应对技术变革带来的社会伦理挑战。

OpenAI首席科学家公开警示，机器智能加速发展或带来难以预料的后果，当前社会与技术界尚未做好充分准备。这一表态引发对AI安全、伦理及监管的广泛讨论。