美国准备对具备顶级网络攻击能力的闭源人工智能模型开展发布前安全评估,却暂时不把开放权重模型纳入同一套流程。
这个区别看似只是监管范围调整,实际暴露出一个更棘手的问题:越难收回的模型,反而越可能在发布前缺少统一审查。
根据美国政府提出的自愿合作框架,符合条件的前沿模型开发商可在正式发布前,向联邦政府提供最长30天的安全评估窗口。
白宫行政令同时明确,这不是强制许可或政府审批制度。路透社则报道,政府已向多家人工智能企业表示,初期评估主要针对闭源模型,开放权重模型暂不包括在内。
这里需要厘清两个概念。“开放权重”不等于模型的训练数据、源代码和开发过程全部公开,而是用户可以下载模型参数并自行部署、修改。
闭源模型出现严重漏洞后,企业还能限制访问、更新系统或停止服务;开放权重一旦发布,文件可能被大量复制,开发商很难通过一次更新将旧版本全部收回。
这正是政策中的不对称之处。政府更容易评估和约束愿意提供模型的美国闭源企业,却较难处理已经公开传播的模型。
排除开放权重模型,可能降低本土企业的合规成本,维持美国在开放人工智能生态中的竞争力;但如果开放模型的网络攻击能力继续提升,监管空白也会扩大。
相关研究指出,高能力开放权重模型既有利于科研和自主部署,也存在安全机制被移除、模型被重新微调后用于滥用的风险。
因此,这项政策不能简单理解为“美国不测试开源模型”,更准确的表述是:美国正在建立一套自愿、分阶段的前沿模型评估机制,但初期把监管重点放在闭源模型上。
它解决了政府如何提前接触商业模型的问题,却尚未回答更关键的一问——对于发布后无法有效收回的高能力模型,谁来承担持续评估和风险处置责任?
