产业观察
我的工作就是让AI取代自己!前Anthropic研究员警告AI或灭绝人类
📋总体概括
27岁的前Anthropic研究员雅各布·考克森辞职后发声警告,称顶尖AI实验室正推进AI研究自动化,OpenAI曾计划2027-2028年实现AI自主科研且进度超预期。他指出人类失去AI主导权的概率超过五成,极端情况下存在灭绝风险,批评OpenAI和Anthropic在安全机制不完备下盲目加速,呼吁提升透明度、放缓研发。
⚡关键信息
- ▸27岁的前Anthropic研究员考克森在纽约市议会AI风险听证会上发出警告,此前他先后供职于OpenAI和Anthropic。
- ▸他透露OpenAI任职期间团队计划在2027至2028年实现AI自主开展科研,且实际推进速度已超预期。
- ▸他坦言自己在上一份工作中就是在研究如何让AI取代自己,顶尖实验室正全力推进AI研究自动化。
- ▸他判断人类失去对AI主导权的概率超过五成,极端情况下存在人类灭绝风险。
- ▸他批评AI企业沿用互联网「快速迭代、事后补救」逻辑,呼吁提升透明度并放缓研发脚步。
🔥犀利点评
又一位内部人士敲响警钟,但别急着感动——AI安全圈早已形成一套成熟的辞职-发声-出书流水线。真正值得玩味的是他那句「让AI取代自己」:安全研究员本人就是竞赛的一部分。警告改变不了竞赛逻辑,只要OpenAI和Anthropic的估值还系于谁先摸到AGI,五成概率的赌注就只会越押越大。听其言,更要看资本何时肯松油门。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →