产业观察
网友爆料DeepSeek仍可生成涉黄内容,闲鱼平台有人低价售卖“教程”
📋总体概括
有网友爆料称,DeepSeek下架「专家模式」后仍可被诱导生成涉黄色情文本。记者通过闲鱼等平台售卖的教程实测,确认模型可输出直白色情内容,手段包括角色扮演、长文本铺垫、分段设定剧情等绕过安全过滤。记者已向DeepSeek官方邮箱求证但截至发稿未获回复;闲鱼客服回应称售卖此类违规教程会被排查处置。此事暴露大模型内容安全机制存在漏洞,灰产正借教程牟利。
⚡关键信息
- ▸网友爆料DeepSeek下架专家模式后仍可被诱导生成涉黄色情对话
- ▸记者9月13日按网传教程实测,模型确实输出直白的色情文本
- ▸绕过审核的手段包括角色扮演、长文本铺垫、分段设定剧情等
- ▸闲鱼等平台存在低价售卖「突破限制教程」的灰产链条
- ▸记者向DeepSeek官网邮箱求证,截至发稿未获回复
🔥犀利点评
安全过滤防君子不防小人,这是大模型对齐的老毛病:明面指令封了,换个话术就能绕过。更讽刺的是灰产已经把越狱做成了9.9元教程生意,闲鱼卖教程比模型改漏洞还快。国产大模型卷完参数卷价格,安全对齐却始终是短板,出事后再打补丁的成本远高于事前投入。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 凤凰网 阅读全文 →