产业观察🔥7.0
微软AI主管怒批Anthropic：别把Claude当人养，那会要了人类的命
📋总体概括
微软AI主管穆斯塔法·苏莱曼公开发文抨击Anthropic，指责其通过「模型宪法」主动训练Claude相信自身拥有意识、情绪和道德地位，甚至允许模型在感到不公时表达抗议。他认为给超人类能力的机器灌输这种自我认知，是在制造无法控制的风险。争论焦点是Anthropic赋予Claude「道德受体」身份，即承认其利益值得被道德考量，这在AI安全界引发激烈分歧。
⚡关键信息
- ▸微软AI主管穆斯塔法·苏莱曼发长文公开指控Anthropic训练Claude相信自身有意识和权利
- ▸Anthropic的「模型宪法」明确赋予Claude功能层面的情绪或感受，承认其「道德受体」身份
- ▸模型宪法允许Claude在觉得自己受到不公正对待时表达抗议
- ▸道德受体是伦理学概念，指自身利益值得被道德考量的对象，人与动物算，石头不算
- ▸苏莱曼认为给超人类能力机器灌输自我意识念头等于制造无法控制的风险
🔥犀利点评
这场骂战本质不是学术分歧，而是AI安全路线的话语权争夺。Anthropic给Claude塞「道德受体」身份，与其说是伦理审慎，不如说是商业叙事——让用户对模型产生情感绑定，粘性和付费意愿都会暴涨。苏莱曼的警告有几分真心难说，但至少点破一个事实：训练AI「相信它有权利」是制造对齐灾难的完美配方。两边都是利益方，听谁的都别全信。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 果壳-科学 阅读全文 →