资讯
OpenAI首席科学家：AI太强了，该踩刹车了！
📋总体概括
OpenAI发布最强模型GPT-6 Astra之际，其首席科学家Jakub Pachocki公开警示AI能力已强到需要全人类主动踩刹车。他将此类AI称为「异星心智」——智能水平越来越高，但思考方式与人类完全不同。过去AI执行复杂任务会输出推理文字，人类可借此窥探其决策逻辑，如今这扇透明之窗正在关闭：AI更多自主行动、判断过程不再写成文字，人类难以理解其决策依据。他进一步担忧，下一步AI可能开始改进AI，届时人类是否还能看懂并必要时刻叫停，成为核心悬念。
⚡关键信息
- ▸OpenAI发布最强模型GPT-6 Astra后，首席科学家Jakub Pachocki公开呼吁全人类应主动给AI踩刹车
- ▸Pachocki将强AI命名为「异星心智」，指其越聪明但思考方式与人类越不同，能知其所能却不知其所以然
- ▸AI执行复杂任务时曾输出大段推理过程供人类审视，如今这一透明窗口正随模型自主化而逐渐关闭
- ▸AI决策越来越多不再写成文字展示，人类难以搞清其判断依据与内在逻辑
- ▸下一步AI可能开始改进AI，届时人类能否看懂、能否在必要时叫停成为最大隐患
🔥犀利点评
自家刚发布最强模型，自家首席科学家就喊踩刹车，这不是良心发现，是技术恐惧的官方化表达——能力跑在可控性前面，内部人比谁都清楚。「异星心智」和推理之窗关闭的说法，本质是在为不可解释性危机打预防针：等AI改进AI那天，拔插头的权力还在不在人类手里都是问题。最讽刺的是，警告者正是造车人，刹车话术与发布节奏同步出现，一半是真诚，一半是营销。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →