产业观察
递归自我改进的真门槛,是改进“改进能力”
📋总体概括
2026年9月10日,上海交大、清华、字节、小红书、上海AI实验室等机构联合发布论文《The Last AI Built by Humans》,在中文AI圈刷屏。论文描绘了一条递归自我改进路线:人类先造出足够强的AI系统,此后由AI自己发现问题、自己设计实验、自己获取经验并持续训练迭代。文章核心观点是,递归自我改进的真正门槛不在于让AI执行改进动作本身,而在于让AI具备改进『改进能力』的元能力,这才是通往人类建造的最后一个AI的关键分水岭。
⚡关键信息
- ▸上海交大、清华、字节、小红书、上海AI实验室等机构于2026年9月10日联合发布刷屏论文
- ▸论文标题为《The Last AI Built by Humans》,即人类建造的最后一个AI
- ▸路线设想:人类造出足够强的AI后,AI自己发现问题、设计实验、获取经验并自我训练迭代
- ▸核心论点:递归自我改进的真门槛是改进『改进能力』这一元层面的能力
🔥犀利点评
标题起得很大——『人类建造的最后一个AI』,但这恰恰暴露了问题:真正的递归自我改进目前还停留在路线图和叙事层面,而非被验证的技术路径。把『改进改进能力』包装成新门槛,本质上是把AI对齐与自动化的终极难题换了个说法。论文值得讨论,但距离落地恐怕还隔着算力、评估体系和安全性三座大山,别让宏大叙事先于工程现实。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文 →