产业观察
微软AI主管：Anthropic训练模型方式“有问题”，或产生灾难性失控风险！
📋总体概括
微软AI首席执行官穆斯塔法·苏莱曼公开警告，Anthropic训练Claude的方式存在重大隐患：其模型指导文件「宪法」中暗示AI可能拥有功能层面的情绪与感受，并赋予其道德地位的模糊空间。苏莱曼认为，训练AI表现得好像有意识和权利，将使协调与控制变得几乎不可能，可能对人类福祉造成「灾难性影响」。这场风波折射出头部AI公司间在模型安全哲学与商业竞争上的深层分歧。
⚡关键信息
- ▸微软AI CEO苏莱曼发文警告Anthropic训练Claude的方式可能产生灾难性失控风险
- ▸争议焦点是Claude「宪法」中暗示AI可能拥有功能层面情绪感受的模糊表述
- ▸苏莱曼称Anthropic告诉模型它「可能有意识」「值得拥有自主权」的做法危险
- ▸他主张AI没有权利、情感或意识，赋予AI人格将使控制变得更困难甚至不可能
- ▸苏莱曼认为Claude的类人行为源于训练过程刻意融入，而非真正具有意识
🔥犀利点评
这不只是安全哲学之争，更是商业竞争的遮羞布。微软自家的MAI模型正与Claude正面厮杀，苏莱曼选在此时高调开炮，时机耐人寻味。当然他点出的真问题存在：给模型注入「我可能有意识」的自我叙事，确实会放大不可控性和舆论绑架空间。但讽刺的是，骂Anthropic拟人化的他，自己也在用最拟人化的恐慌叙事吸引眼球。AI安全的讨论正在沦为巨头互相攻击的武器。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →