资讯
AI有可能“毁灭人类”？业内专家接连发出警告
📋总体概括
前Anthropic、OpenAI研究员Jacob Coxon周二辞职并发帖抨击两家公司在AI安全上不负责任，称业内开发者真心相信2030年前AI可能毁灭人类，帖子浏览量超7000万次。Anthropic对齐科学负责人Evan Hubinger随即响应，估计未来十年内AI毁灭人类的概率超过10%，并承认目前尚未解决超级智能对齐问题。业内担忧的核心是递归式自我改进（RSI）——AI在无人工干预下迭代自身，多家公司已警告这将导致人类失去控制。
⚡关键信息
- ▸前Anthropic、OpenAI研究员Jacob Coxon辞职发帖，指责两家公司竞相研发自我提升的超级智能，是拿生命做赌注
- ▸Coxon称AI开发者真心相信2030年前AI可能毁灭人类，其帖子浏览量超7000万次
- ▸Anthropic对齐科学负责人Hubinger公开回应，认为未来十年AI毁灭人类概率超过10%
- ▸业内担忧焦点为递归式自我改进（RSI），目前尚未实现，但Anthropic和OpenAI均警告其或致人类失控
- ▸Hubinger坦言尚未找到解决超级智能对齐问题的方案，也显然未走上正轨
🔥犀利点评
最讽刺的一幕出现了：造AI的人一边喊着AI可能毁灭人类，一边继续加速冲刺。Hubinger说毁灭概率超10%还留在Anthropic上班，这不是安全研究，这是道德避险——真信10%的人该停手而非写推文。安全警告成了融资叙事的一部分，恐慌本身就是护城河。别被末日论调带偏，真正该盯的是：谁给了他们只在嘴上踩刹车、手上踩油门的特权？
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →