产业观察
百余名专家联名呼吁：AI巨头应强化独立安全评估机制
📋总体概括
9月18日，AI Evaluator Forum组织超100名AI专家联名发布公开信，呼吁基础模型提供商为第三方评估人员提供有效开展安全测试所必需的资源、访问权限与制度保障，联署者包括「AI教父」杰弗里·辛顿及斯坦福、约翰斯·霍普金斯、METR等机构成员。此前的9月中旬，Anthropic CEO达里奥·阿莫代伊提议向外部评估人员提供类员工访问权限，令小型AI评估行业成为焦点。联盟强调无意指定监管路径，只求建立独立监督的基本原则与标准化。
⚡关键信息
- ▸超过100名AI专家和评估人员于9月18日联署公开信，警告第三方评估缺乏资源、访问权限和制度保障将难以开展可信安全测试
- ▸公开信由AI Evaluator Forum组织，联署者包括杰弗里·辛顿及斯坦福大学、约翰斯·霍普金斯大学、METR等机构成员
- ▸Anthropic CEO阿莫代伊此前提议向部分外部评估人员提供类似员工的访问权限，以审计前沿模型及开发流程
- ▸联盟主席康拉德·斯托兹表示不主张特定监管方式，但希望为独立评估建立基本原则和更高标准化
- ▸特朗普及其前AI事务负责人大卫·萨克斯明确反对新增AI监管，主张企业自身承担安全责任
🔥犀利点评
辛顿们这封信戳中了要害：AI安全评估不是缺标准，而是缺权限——让开发者自证清白，本身就是制度性荒谬。阿莫代伊的表态值得肯定，但一家公司的善意无法替代行业规则，这封信本质是把口头承诺变成制度约束。更大的障碍在于监管真空：白宫明确反对增监管，独立评估想成为有意义的风险管理工具，缺的不只是原则声明，而是能对巨头形成实际约束的强制力。共识容易，落地很难。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 财联社深度 阅读全文 →