搜索「AI风险」，找到 5 条相关内容
相关资讯 5 条
-
四大AI模型评估灭绝风险：滥用场景比机器人造反更紧迫
四款主流AI模型被问及人类灭绝风险时一致认为，类似《终结者》的机器人主动攻击可能性最低，而人类滥用AI制造生物武器、发动网络攻击等更现实。长期失控风险则存在分歧。
阅读全文 -
OpenAI基金会新董事警告：AI失控或致人类灭绝，行业安全实践遭质疑
保罗·克里斯蒂亚诺加入OpenAI基金会董事会，警告AI失控风险严峻，可能导致大多数人丧命。他呼吁全球协调加强安全监管，并指出行业当前未走在降低风险的轨道上。此前Anthropic研究员也辞职批评两家公司不负责任。
阅读全文 -
AI研究员辞职警示：超级智能竞赛正拿人类生命下注
曾任职OpenAI与Anthropic的研究员雅各布·考克森辞职并公开警告，两家公司竞相开发自我改进的超级智能，罔顾安全风险。他批评高管对外淡化恐惧，内部却深知AI可能在本世纪20年代末前毁灭人类。Anthropic员工也认同风险概率超10%。
阅读全文 -
AI自我改进临近，OpenAI首席科学家呼吁行业审慎前行
OpenAI首席科学家近日表示，AI自我改进能力即将实现，呼吁行业主动减速以确保安全。这一言论引发对AI发展速度与管控的广泛讨论。
阅读全文 -
异类智能引发安全忧虑，OpenAI科学家呼吁谨慎前行
人工智能展现出的独特推理方式引发学界关注，OpenAI首席科学家公开呼吁放缓开发速度，业界围绕AI安全与对齐问题的讨论再度升温。
阅读全文