资讯
Anthropic研究员因“失控”AI担忧辞职，安全隐忧蔓延顶级实验室
📋总体概括
Anthropic研究员Jacob Coxon因担心AI失控宣布离职，警告最快明年底局面可能失控，认为在缺乏政府干预或行业协调减速的情况下，没有公司能负责任地开发AGI。同日，OpenAI首席科学家Jakub Pachocki发文呼吁全球协调推进行业减速并寻求政府介入，OpenAI还宣布AI自动化研究员正式入职并公开递归自我改进里程碑数据。顶级实验室内部人员相继发出安全警告，叠加RSI进展，AI安全风险正从边缘议题变成市场焦点。
⚡关键信息
- ▸27岁研究员Jacob Coxon从Anthropic离职，理由是不愿参与可能导致AI失控的行业竞赛
- ▸他警告最快到明年底局面就可能失控，认为没有政府干预下无人能负责任地开发AGI
- ▸OpenAI首席科学家Jakub Pachocki发文《An Alien Mind》，呼吁全球协调减速并寻求政府介入
- ▸OpenAI宣布AI自动化研究员正式入职，公开递归自我改进（RSI）关键里程碑数据
- ▸Coxon批评关乎人类命运的AI讨论只发生在旧金山工程师的MacBook上，而非像曼哈顿计划般受控
🔥犀利点评
讽刺到了极致：以安全为卖点的Anthropic留不住安全研究员，天天喊监管的OpenAI一边喊减速一边官宣自动化研究员入职、公开RSI进展。这不是安全觉醒，是既当裁判又抢跑。头部实验室用嘴谈风险、用手加速训练，离职者的警告再尖锐，也敌不过算力竞赛的惯性。等政府真介入时，恐怕已经过了能刹车的窗口期。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →