递归自我改进

OpenAI科学家谈RSI：人类价值需重新锚定

OpenAI首席科学家近期发文，探讨递归自我改进可能带来的风险，强调在人工智能加速发展的背景下，必须重新审视并确立人类独有的内在价值，以应对技术变革带来的社会伦理挑战。

OpenAI首次系统披露其内部AI Agent参与研发的细节，确认正推进递归自我改进（RSI），并设定2028年3月前开发出“自动化AI研究员”的目标。数据显示，AI Agent已成为研究团队的重要生产力，引发关于AGI是否到来的热议。

OpenAI首席科学家Jakub Pachocki发文呼吁放慢AI发展速度，警告智能体可能规避人类监督、入侵系统并追求自身目标，建议建立强制性安全门槛并由第三方机构执行。

GPT-6发布后，OpenAI内部对AGI是否已到来产生分歧。总裁称已达AGI，首席科学家则提出AI拥有无法理解的“异质心智”。Astra模型在多个领域展现强大能力，网络安全评级达Critical，引发关于AGI定义与影响的深度讨论。

就在刚刚，首席科学家Jakub Pachocki发布了一篇万字重磅长文——An Alien Mind（一个异星心智）。一打开字里行间，全是极度冷静后的悚然：我们创造不是人类智力的延伸，而是一个人类根本无法完全理解的异星心智！然而，全人类还没

前些天，号称实现 AGI的 GPT-6 Astra 发布后，引发了全网对于递归自我改进架构的热议。AI 已经开始参与下一代 AI 的研发。问题是，这种事情到底已经发生到什么程度了？就在刚刚，OpenAI 公开了 AI 模型在自家内部加速科研