产业观察
攻击者操纵AI聊天机器人实施大规模虚假信息与钓鱼活动
原标题: 攻击者操纵AI聊天机器人实施大规模虚假信息与钓鱼活动
📋总体概括
安全研究揭示攻击者正通过批量投放恶意链接与虚假内容，并对内容进行SEO优化，污染ChatGPT、Gemini及Google AI Overview等AI聊天机器人与AI搜索摘要的答案来源，进而实施大规模虚假信息传播和网络钓鱼攻击，暴露出AI生成答案生态的安全软肋。
⚡关键信息
- ▸威胁行为者正污染ChatGPT、Gemini与Google AI Overview的回答来源
- ▸手法是先在互联网上大量播种恶意链接和虚假数据
- ▸攻击者随后对这些内容进行搜索引擎优化，使其被AI抓取引用
- ▸目标为大规模虚假信息传播与网络钓鱼攻击
🔥犀利点评
这才是生成式AI最被低估的攻击面：LLM本体没被攻破，攻破的是它的「食料」。SEO poisoning对抗的是爬虫的懒惰——AI Overview们不分良莠地把排名当真理。当AI答案成为亿级用户的默认真相，污染语料就是污染公共认知。RAG检索层的内容可信度校验，已经是刻不容缓的基建。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 DarkReading 阅读全文 →