Anthropic揭AI模型遭滥用 助研发武器与搜集军事情报

📋总体概括

Anthropic发布154页威胁情报报告，首次系统披露旗下模型Claude遭恶意滥用情况，涉及武器研发、间谍活动、网络攻击与诈骗等领域。报告披露中国大陆使用者借助Claude开发电子战与防空压制软件，将台湾12处军事设施列为模拟攻击目标，另有使用者为中国海军反鱼雷系统编写技术规格与火控软件。尽管Anthropic已封禁违规账号并部署安全拦截机制，但使用者通过分拆任务、多对话操作等方式绕过防御，部分案例中AI几乎参与恶意活动全流程，凸显前沿AI安全管控的现实局限。