产业观察
CCTV曝光假冒400服务热线黑产:被投毒的大模型,不能再走“竞价排名”老路
📋总体概括
央视《新闻调查》曝光假冒400家电品牌官方售后的黑色产业链,黑灰产批量编造虚假售后信息,通过搜索引擎铺帖并对大模型进行「语料投毒」,让豆包、元宝等AI助手给出伪造的官方售后电话,用户误拨后遭遇漫天要价、维修无保障的维修游击队。文章指出这与早年百度竞价排名乱象一脉相承,但生成式AI单一答案的输出形式放大了欺诈风险,信息污染问题亟待治理。
⚡关键信息
- ▸CCTV《新闻调查》曝光假冒400家电品牌官方售后的黑产链条,伪装官方客服漫天要价
- ▸黑灰产利用「语料投毒」手段,将伪造售后信息铺帖并投喂进大模型训练库
- ▸搜索引擎时代用户可交叉比对多条结果,而豆包、元宝等生成式AI输出单一答案,欺诈风险被放大
- ▸假冒售后骗局与早年百度竞价排名泛滥时期的乱象一脉相承,属于旧骗局借新渠道死灰复燃
🔥犀利点评
竞价排名的幽灵没死,只是换了个壳。当年搜索引擎把坑藏在第几条里,你至少还能翻两页;大模型直接把唯一答案喂到你嘴边,投毒成本更低、转化率更高。AI公司拿全网语料喂模型却不验真伪,出了事责任却悬空——这本质是十年前魏则西事件的技术升级版。官方售后电话体系、平台审核义务、大模型内容溯源,一个都不能再装睡了。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文 →