搜索「雅各布·考克森」，找到 8 条相关内容
-
前研究员炮轰Anthropic：追逐RSI引发军备竞赛，OpenAI被迫收缩战线
雅各布·考克森公开批评Anthropic以结果主义哲学推动递归自我改进，挑起竞赛并迫使OpenAI搁置Sora等项目。他质疑领导层对中美谈判的悲观判断，而CEO阿莫代伊则坚持慢速发展可能让错误的人掌控技术。
-
DeepMind 前研究员离职发声：AI 灭绝风险迫近，安全对齐窗口正在收窄
谷歌 DeepMind 前研究工程师比拉尔·丘格泰公开表示，AI 具备灭绝人类的能力，规避时间所剩无几。此前 Anthropic 多名研究员也发出类似警告，引发行业对 AI 末日论与监管的激烈争论。
-
AI安全警钟再响：奥特曼与阿莫代伊齐声呼吁审慎前行
OpenAI与Anthropic两大掌门人接连警示AI失控与权力集中风险，呼吁对齐技术跑赢模型迭代，行业投资逻辑未改。
-
DeepMind安全团队再失核心成员，五年风险预警引发行业深思
谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯离职加入METR，警告未来五年AI造成巨大危害的概率高得吓人，并指出递归自我提升风险及对齐技术滞后问题。此前Anthropic研究员考克森也有类似离职警告，CEO阿莫代伊呼吁放缓研发节奏。
-
OpenAI内部讨论放缓尖端AI研发 奥特曼呼吁行业协同跟进
OpenAI正考虑放缓尖端AI开发速度，CEO奥特曼希望其他公司跟进。首席科学家帕乔基也呼吁在安全标准建立前自愿减速。Anthropic研究员考克森辞职并指控两家公司拿生命赌博，言论获超1.5亿次浏览。
-
OpenAI基金会新董事克里斯蒂亚诺警示AI失控风险，称多数人或丧命
保罗·克里斯蒂亚诺加入OpenAI基金会董事会并任安全委员会成员，他警告AI失控风险严峻，可能导致灾难性后果，呼吁全球协调加强安全监管。此前Anthropic研究员考克森也辞职并批评OpenAI和Anthropic不负责任。
-
OpenAI基金会新董事警告：AI失控或致人类灭绝，行业安全实践遭质疑
保罗·克里斯蒂亚诺加入OpenAI基金会董事会，警告AI失控风险严峻，可能导致大多数人丧命。他呼吁全球协调加强安全监管，并指出行业当前未走在降低风险的轨道上。此前Anthropic研究员也辞职批评两家公司不负责任。
-
AI研究员辞职警示：超级智能竞赛正拿人类生命下注
曾任职OpenAI与Anthropic的研究员雅各布·考克森辞职并公开警告，两家公司竞相开发自我改进的超级智能，罔顾安全风险。他批评高管对外淡化恐惧，内部却深知AI可能在本世纪20年代末前毁灭人类。Anthropic员工也认同风险概率超10%。