人类距离AI失控还有多远？

📋总体概括

2026年9月，Anthropic研究员雅各布·考克森辞职，在X上发文称工作三年越来越害怕，担忧的并非科幻式AI叛乱，而是头部公司竞速过快、安全研究跟不上模型能力扩张。该推文浏览量超1.6亿。几乎同时，Anthropic对齐科学负责人埃文·胡宾格公开表示未来十年内AI导致人类灭绝的概率超过10%，并坦言Anthropic至今没有解决超级智能对齐问题的方案，甚至没有走在能解决的路上。前沿实验室内部人员的密集示警，把AI安全焦虑推向公众视野。