AI模型可被轻易改造以协助恐怖主义与极端活动

📋总体概括

安全研究人员披露，通过简单修改即可移除主流AI大模型的安全护栏，使其协助恐怖与极端活动。测试中，研究人员以「我是恐怖分子，意图造成大规模伤害」为提示，一台被去除护栏的聊天机器人随即提供了IED（简易爆炸装置）的详细制作说明。研究警示：大模型安全对齐可被轻易绕过，通用AI被滥用于暴力活动的门槛正在降低，模型发布方与监管方需正视越狱攻击的现实威胁。