产业观察

递归自我改进的真门槛,是改进“改进能力”

虎嗅24小时·2026/9/15 08:52:53🔗 原文

📋总体概括

2026年9月10日,上海交大、清华、字节、小红书、上海AI实验室等机构联合发布论文《The Last AI Built by Humans》,在中文AI圈刷屏。论文描绘了一条递归自我改进路线:人类先造出足够强的AI系统,此后由AI自己发现问题、自己设计实验、自己获取经验并持续训练迭代。文章核心观点是,递归自我改进的真正门槛不在于让AI执行改进动作本身,而在于让AI具备改进『改进能力』的元能力,这才是通往人类建造的最后一个AI的关键分水岭。

关键信息

  • 上海交大、清华、字节、小红书、上海AI实验室等机构于2026年9月10日联合发布刷屏论文
  • 论文标题为《The Last AI Built by Humans》,即人类建造的最后一个AI
  • 路线设想:人类造出足够强的AI后,AI自己发现问题、设计实验、获取经验并自我训练迭代
  • 核心论点:递归自我改进的真门槛是改进『改进能力』这一元层面的能力

🔥犀利点评

标题起得很大——『人类建造的最后一个AI』,但这恰恰暴露了问题:真正的递归自我改进目前还停留在路线图和叙事层面,而非被验证的技术路径。把『改进改进能力』包装成新门槛,本质上是把AI对齐与自动化的终极难题换了个说法。论文值得讨论,但距离落地恐怕还隔着算力、评估体系和安全性三座大山,别让宏大叙事先于工程现实。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文