研究人员称：OpenAI与Google的新AI模型可轻易被诱导生成裸露图像

📋总体概括

研究人员发现，OpenAI与Google最新AI模型可被新型攻击手段诱导生成裸露图像，暴露两家公司在安全防护上的漏洞。该方法绕过了模型对色情内容的拒绝机制，说明即便是最头部的大模型厂商，其内容安全护栏依然脆弱，多模态图像生成能力越强，滥用风险越突出，安全测试与对齐工作明显滞后于模型能力迭代速度。