产业观察
写进 AI 宪法里的「人类控制」，为什么仍然不是控制
📋总体概括
2026年9月14日，Microsoft AI发布Humanist AI Code of Conduct，定位为未来MAI模型的主要治理文件，类似AI「宪法」，规定模型应遵循的行为、价值观与安全约束。其核心方向概括为三个词：subordinate（从属于人类）、aligned（与人类目标一致）、contained（处于可控边界内），最高目标是人类控制。文章的核心质疑是：写进宪法的「人类控制」承诺，在实际模型运行中仍不构成真正的控制。
⚡关键信息
- ▸Microsoft AI于2026年9月14日发布Humanist AI Code of Conduct，作为未来MAI模型的主要治理文件
- ▸文件非产品安全说明或用户政策，而是描述模型行为、价值观与安全约束的顶层文件
- ▸Microsoft用三个关键词定义AI方向：subordinate、aligned、contained
- ▸文件最高目标明确为人类控制，但文章认为写入宪法不等于实际可控
- ▸这是Anthropic式「宪法AI」治理路径在微软体系中的复制与延伸
🔥犀利点评
把治理愿景写成一份漂亮的「AI宪法」，是当下大厂最廉价的合规表演：纸面承诺从属人类，但模型对齐的验收标准、可控边界的执行机制全部由厂商自己定义自己检查。「人类控制」四个字写在宪法里，恰恰说明它在实际运行中是个待证命题而非既成事实。真正该看的不是宣言写得多动听，而是拒绝权、可关停、责任归属这些硬条款有没有牙齿。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 虎嗅24小时 阅读全文 →