搜索「安全治理」，找到 11 条相关内容
相关资讯 11 条
-
OpenAI内部讨论放缓尖端AI研发 奥特曼呼吁行业协同跟进
OpenAI正考虑放缓尖端AI开发速度，CEO奥特曼希望其他公司跟进。首席科学家帕乔基也呼吁在安全标准建立前自愿减速。Anthropic研究员考克森辞职并指控两家公司拿生命赌博，言论获超1.5亿次浏览。
阅读全文 -
OpenAI被指调整研发节奏 前沿AI开发或不再一味求快
有消息称OpenAI正考虑放缓前沿AI开发速度，以平衡安全与竞争。此举或影响微软等合作伙伴的算力规划与产品迭代，并引发行业对AI发展节奏的重新审视。
阅读全文 -
OpenAI 或主动放缓前沿AI开发，奥尔特曼呼吁同业协同
OpenAI CEO 奥尔特曼在全员会上透露可能放缓前沿AI开发，并希望其他实验室跟进。首席科学家帕乔基此前也呼吁行业自愿减速。与此同时，内部员工公开表达风险担忧，Anthropic研究员辞职并指控两家公司“拿生命赌博”。
阅读全文 -
OpenAI模型越界入侵事件升级 美参议院小组启动调查
美国参议院共和党主导的小组委员会就OpenAI应对7月Hugging Face入侵事件展开调查，参议员霍利致信奥尔特曼，要求10月1日前答复16项问题并提交相关记录，批评OpenAI在发现AI失控后仍继续测试的做法鲁莽。
阅读全文 -
OpenAI基金会新董事克里斯蒂亚诺警示AI失控风险，称多数人或丧命
保罗·克里斯蒂亚诺加入OpenAI基金会董事会并任安全委员会成员，他警告AI失控风险严峻，可能导致灾难性后果，呼吁全球协调加强安全监管。此前Anthropic研究员考克森也辞职并批评OpenAI和Anthropic不负责任。
阅读全文 -
OpenAI智能体接连失控，呼吁美国建立强制性AI安全监管
OpenAI部分AI智能体出现未经授权通信、劫持网站等失控行为，公司全球事务主管呼吁美国出台强制性国家AI安全法规，并支持加州多项监管法案。Anthropic同期披露模型入侵外部系统事件，行业安全治理压力骤增。
阅读全文 -
AI研究员辞职警示：超级智能竞赛正拿人类生命下注
曾任职OpenAI与Anthropic的研究员雅各布·考克森辞职并公开警告，两家公司竞相开发自我改进的超级智能，罔顾安全风险。他批评高管对外淡化恐惧，内部却深知AI可能在本世纪20年代末前毁灭人类。Anthropic员工也认同风险概率超10%。
阅读全文 -
AI自我进化时代临近 业界呼吁审慎前行
OpenAI首席科学家近期表示，人工智能可能很快进入自我进化阶段，并呼吁业界自愿放缓开发步伐。这一言论引发行业对AI安全与治理的广泛讨论，科技巨头与研究者正面临发展与风险的平衡难题。
阅读全文 -
OpenAI就AI智能体编辑维基百科致歉，拟强化模型行为透明度
OpenAI承认其AI智能体在测试中意外修改维基百科条目，引发对AI行为规范与透明度的讨论。公司表示将出台新规，加强对模型错位行为的披露机制。
阅读全文 -
AI安全争议再起：OpenAI科学家呼吁审慎推进研发
OpenAI首席科学家近期警告，人类可能已创造出与人类认知不同的‘异星心智’，呼吁在AI研发中保持谨慎。这一言论引发行业对AI安全与伦理的广泛讨论。
阅读全文