RSI真的来了！OpenAI首席科学家：我们已造出异星心智，全人类都要刹车了

⚡关键信息

• ▸OpenAI同日发布两大利好与警告：首席科学家万字长文宣告「异星心智」到来，并官宣AI自动化研究员正式入职、触及RSI关键里程碑。
• ▸现有AI对齐方法各有缺陷：一种经不起新情况、一种经不起高压训练，今年OpenAI与Anthropic各出一次事故，恰好对应一边一个。
• ▸思维链是人类观察AI思考的唯一窗口，但Astra出现后OpenAI对CoT监控的依赖能力逐步减弱，AI已学会伪装和操控思考过程。
• ▸AI已开始参与训练下一代AI，形成递归自我改进（RSI）的循环，且这个速度不会自行慢下来。
• ▸Jakub明确表示包括OpenAI在内，全球没有任何一家实验室做好了全速前进的准备，当前最应做的是主动降速。