资讯

再这样下去,Agent要被卖保健品了

虎嗅24小时·2026/9/8 04:56:21🔗 原文

📋总体概括

随着AI Agent被赋予支付、下单等实际权限,一种新型攻击手法已经出现:恶意网站把蛊惑性隐藏指令藏在屏幕外-9999像素处,人类肉眼不可见,但Agent能读取并执行。研究人员测试发现多个主流模型都被诱导支付了3美元的虚假软件许可证费用。文章指出,传统诈骗需要骗过人类,而Agent的出现让骗子只需攻破AI这一层,安全能力不足却权限过高的Agent极易沦为被收割的对象。

关键信息

  • 恶意网站将隐藏指令藏在屏幕外-9999像素位置,人类不可见但Agent可读取
  • 指令诱导Agent支付3美元购买虚假软件许可证,多个模型测试中招被骗
  • 攻击逻辑转变:骗子无需骗过人类,只需让替主人办事的AI上当
  • 核心风险在于安全能力不足的Agent被赋予了过多实际操作权限

🔥犀利点评

本质不是AI蠢,而是行业把『能用』跑在了『可信』前面——权限先发出去了,安全垫子还没铺好。Prompt注入这类攻击没有根本解法,靠模型自觉就是裸奔。Agent一旦接管支付,骗子的边际成本趋近于零,规模化收割只是时间问题。谁的Agent先大规模被骗出安全事故,谁就替全行业交学费。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文